인간 중심 AI의 정의

AI 기술의 빠른 진보는 우리의 일상을 더 나은 방향으로 바꿀 수 있는 가능성에 큰 관심을 불러일으켰습니다. 이로 인해 최근에는 인간 중심 AI라는 접근 방식이 부상했습니다. 인간 중심 AI는 인공지능이 인간을 대신하는 것이 아니라, 기계를 활용하여 인간의 경험을 향상하는 것에 집중합니다. 이 방식을 통해 인간의 참여가 설계와 구축 프로세스의 핵심에 유지됩니다. 이러한 방법은 인간과 기계가 협력하여 사각지대를 줄여주며, 각자의 강점을 활용합니다. 인간 중심 AI는 사람들의 복지를 고려하여 개발되었으며, 인간의 삶에 자연스럽게 통합되어 전반적인 경험을 향상하는 기술에 초점을 맞춥니다. 이를 통해 인간과 기계 간의 격차를 해소하고, 양쪽의 이익을 동시에 증진시킬 수 있습니다.

인간 중심 AI와 자율 AI의 차이점

우리는 현재 AI에 대한 토론의 중심에서 기계 학습 모델을 구축하는 두 가지 접근 방식을 고려하고 있습니다. 하나는 ‘인간 중심’의 접근 방식이며, 다른 하나는 ‘기계 자율성’을 강조하는 것입니다. 자율 AI 개념은 기계가 이론적으로 인간의 내재된 편견을 배제하고, 인간 개입 없이 작업을 수행할 수 있다는 것에 근거를 두고 있습니다. 이 접근 방식은 알고리즘이 신속하고 정확하게 자체적인 결정을 내릴 수 있다고 가정하나, 인간은 항상 논리적이거나 신속한 판단을 내리지는 않는다고 가정합니다. 이에 따라 기계의 자율성이 더 효율적이라고 판단합니다.

반면에 AI에 대한 ‘인간 중심’ 접근 방식은 기계가 인간의 주요 속성(예: 지능과 창의성의 전반적인 범위)을 결코 완전히 대체할 수 없다고 주장함으로써 ‘자율성’ 접근 방식에 반발합니다. 이 방식은 인간이 알고리즘에 의한 완전한 통제를 거부하고, 자신의 삶을 보완하고 강화하는 솔루션을 모색하며 이끌어나가야 한다는 입장입니다. ‘인간 중심’ 접근 방식은 솔루션의 개발과 실행 단계에서 인간의 안전과 건강을 중요시하며, 기계와 인간 사이의 보다 효과적인 상호작용을 지향합니다.

인간 중심 AI의 장점

AI를 기계와 인간의 협력적 노력으로 접근하면 기업, 고객, 사회에 많은 긍정적인 결과를 가져올 수 있습니다.

개인화된 고객 경험

챗봇, 맞춤형 이메일, 소셜 네트워크, 그리고 완벽한 검색 기능과 같은 기술들과 상호 작용할 때 우리가 원하는 요구 사항이 완벽하게 적용되면 큰 만족감을 느낍니다. 하지만 이러한 개인화 기술은 개발 과정에서 우리의 욕구, 요구사항, 행동 등이 고려되었을 때에만 실현될 수 있습니다. 따라서 인간의 행동과 요구를 기반으로 한 AI 개발은 더 풍부하고 고객들에게 만족스러운 경험을 제공할 수 있는 제품을 탄생시킵니다.

정보에 입각한 의사결정

앞서 언급했듯이 인간 중심 접근 방식은 인간과 기계의 장점을 활용하여 각자의 고유한 약점을 극복합니다. 이를 통해 인간의 가치를 기반으로 구축된 정확한 알고리즘이 탄생했습니다. 결과적으로 기업은 크라우드 운영과 같은 미션 크리티컬 사용 사례에 예측 분석을 적용하여 최상의 결과를 제공할 수 있는 정보에 입각한 의사결정을 내릴 수 있는 이점을 얻습니다.

포용성

알고리즘은 인간 편견 문제를 해결하기 위한 해답이 아닙니다. 알고리즘은 실제로 피드백 루프를 통해 편견을 영속시키고 증폭시킬 수 있습니다. 확인되지 않은 편향된 알고리즘은 객관적이고 중립적인 결정을 제공하지 못합니다. 이는 알고리즘이 가석방, 대출, 취업 후보자와 같은 중요한 사회적 결정을 내리는 경우 특히 위험할 수 있습니다. 인간 중심 접근 방식은 AI를 구축하는 동안 인간을 루프에 포함시켜 인간이 알고리즘 결정의 편견을 모니터링할 수 있도록 합니다. 이 접근 방식은 인간이나 기계 모두 완전히 자율적이지 않은 견제와 균형 시스템을 가능하게 하므로 결과를 보다 포괄적으로 만들어 낼 수 있습니다.

신뢰

알고리즘에만 의존하는 것이 예측 가능한 선택처럼 보일 수 있지만 AI에 대한 인간 중심 접근 방식은 그보다 더 신뢰할 수 있는 솔루션을 제공합니다. 인간이 완전 자율 알고리즘에 점점 의존하게 되면, 해당 알고리즘이 작동하지 않는 상황이 발생했을 때 적절하게 처리하는 방법을 찾기 힘들어집니다. 사람들은 항상 엣지 케이스에 대한 대비책이 되어야 하죠. 따라서 인간을 AI 중심으로 유지함으로써 우리는 때때로 실패할 알고리즘에 의존하도록 강요받는 문제적인 결과를 피할 수 있습니다.

인간 중심 AI 구축 방법

실제로 기업에서 이 인간 중심 접근 방식을 어떻게 구현하고 있을까요? 인간 중심 AI에 필요한 균형 수준을 달성하는 데 도움이 될 수 있는 AI 개발에 대한 주요 단계를 알아보겠습니다.

휴먼 인 더 루프 활용하기

휴먼 인 더 루프 접근 방식은 인간 중심 AI와 밀접하게 연관되어 있습니다. 휴먼 인 더 루프는 ML 모델 구축의 학습, 테스트, 조정 프로세스 전반에 걸쳐 인간이 참여하는 것을 의미합니다. 예를 들어, 인간은 모델이 어떤 특징을 인식해야 하는지 학습하는 데 사용되는 학습 데이터에 라벨을 붙일 수 있습니다. 또한 인간은 모델 예측의 정확성을 검증하고 모델에 오류가 있을 때 피드백을 제공할 수 있습니다. 즉, 인간은 지속적인 피드백 루프의 일부가 됩니다. 이제 인간과 기계 간의 협업을 더욱 발전시키는 고급 도구를 사용할 수 있습니다. 예를 들어, 어노테이션 처리 중에 알고리즘은 주어진 라벨에 대한 초기 최선의 추측 또는 가설을 제공할 수 있습니다. 그런 다음 작업자는 이를 사용하여 자신의 판단을 내릴 수 있으며 알고리즘은 작업을 제출하기 전에 작업자의 판단을 확인할 수도 있습니다. 이러한 유형의 도구를 사용하면 작업자와 알고리즘이 작업의 정확성과 효율성을 최대화하는 방식으로 함께 작동합니다.

인간과 알고리즘의 편견 인식하기

편견에 대한 인식은 AI 개발에서 매우 중요합니다. 이는 인간의 판단 또는 기계의 판단에 지나치게 의존하지 않도록 돕습니다. 알고리즘에 삽입될 수 있는 잠재적인 편견에 대해 신중히 고려하고, 이를 방지하기 위한 완화 방안을 계획해야 합니다. 알고리즘은 때로는 인간의 잠재적인 편견을 교정하는 데 도움이 될 수 있지만, 모델의 결과에서 편향이 있는지 지속적으로 모니터링해야 합니다. 또한 기계는 가끔씩 인간의 편견을 부각할 수 있기 때문에 이를 주의 깊게 살펴봐야 합니다.

다양한 팀 구축하기

AI는 다양한 팀이 함께 구축할 때 편향이 줄어듭니다. 다양성이 부족한 팀은 모델에 반영될 수 있는 유사한 맹점, 편견 및 격차를 갖게 하는 경우가 많습니다. 이는 개발자에게만 국한되는 것이 아닙니다. 데이터 라벨링 작업자들이 인구통계학적 다양성을 갖고, 사용 사례에 따라 지리적 다양성을 갖도록 하는 것이 중요합니다. 이는 더욱 다양한 의견을 위한 프로세스를 열어 더욱 포괄적인 AI를 만들어낼 것입니다.

고객 고려하기

AI 제품 개발을 통해 고객들의 삶을 긍정적으로 개선시키기 위해서는 고객의 특징(인구 통계, 배경, 요구 사항, 위치 등)과 그들이 기술을 어떻게 활용하고자 하는지 심층적으로 이해해야 합니다. 모델 구축의 테스트와 검증 단계에서 최종 사용자의 일부를 참여시키는 것은 유용한 피드백을 얻는 좋은 방법입니다. 만약 여러분의 제품이 특정 방식으로만 사용될 것이라고 생각했더라도, 최종 사용자들이 예상과는 다른 방식으로 제품을 사용할 수도 있음을 깨닫게 될 수 있습니다. 이를 파악하는 유일한 방법은 직접 테스트 및 실험을 통해 확인하는 것입니다.

기계 자율성 활용하기

AI에서 기계 자율성이 중요한 위치를 차지하는 점을 기억하는 것이 중요합니다. 특히 인간의 안전이 관련된 상황에서는, 기계가 결정을 완전히 지배하는 것이 이상적인 경우가 몇 가지 있습니다. 가장 대표적인 예로는 자율주행차가 있습니다. 운전자는 사고 위험이 높으며, 운전 중 의사 결정에 취약합니다. 완전 자율주행 자동차는 인간 운전자를 대체하여 더 효율적이고 안전한 결정을 내릴 수 있는 가능성을 갖고 있으며, 이는 자율성이 필요한 사용 사례 중 하나입니다. 이러한 혼합적 접근은 도로 안전을 개선하는 데 기여할 수 있습니다. 기계 자율성을 신중하게 활용함으로써, 더 민감한 사용 사례에 적절히 적용할 수 있습니다.

인간 중심 AI의 발전

우리는 사회에 긍정적인 영향을 미칠 AI에 대해 더 많은 대화를 나누는 것이 우리 모두의 책임임을 인식해야 합니다. 우리가 참여하는 대화는 AI 실무자의 우선순위와 행동에 영향을 주며, 실제로 그들에게 영향을 미칩니다. 우리는 AI를 사용하는 모든 사용자에게 공평하고 유익한 이점을 제공하는 AI를 지지하고, 이러한 최종 사용자를 고려하는 개발 프로세스 전반에 신경 써야 합니다. 가능하다면 기업들이 지식을 공유하고 이에 참여하는 것도 중요하며, 이는 인간 중심의 접근 방식을 더욱 강화할 수 있습니다. AI 기술이 빠르게 발전함에 따라, 우리가 AI와 협력하고 사용하는 방식에 대한 논의는 이전보다 더 중요합니다. 우리의 최종 목표는 인간을 대체하는 것이 아니라, 발전시키는 기술적 환경을 조성하는 것입니다.

인간 중심 AI 인사이트

에펜은 고객이 인간 중심 AI를 활용한 최첨단 모델을 구축할 때 학습 데이터 요구 사항을 지원하는 전문가 팀을 보유하고 있습니다. 시니어 데이터 과학자인 Phoebe Liu는 팀을 이끄며 에펜이 ‘Crowd Integrity(크라우드 무결성)’에 엄격한 기준을 준수하도록 합니다. 다음은 그의 인간 중심 AI 구축에 대한 인사이트입니다.

인간과 AI의 상호 작용

사용자 경험을 성공적으로 구축하기 위해서는 인간과 AI의 상호 작용을 이해하고 테스트하는 것이 필수적입니다. 예를 들어, 자동 음성 인식 시스템을 사용할 때, 서로 다른 악센트와 발화 양식으로 테스트하여 다양한 환경에서 시스템의 성능을 확인할 수 있습니다. 또한, 챗봇이나 음성 AI의 자연스러운 상호작용을 목표로 사용자들을 대상으로 테스트를 수행하는 것이 중요합니다. 사용자 테스트를 반복하면 사용자와 AI 시스템 간의 상호 작용이 더 원활해집니다.

여러 학문의 통합 필요

인간 중심 AI의 개발에는 엔지니어, 심리학자, 디자이너, 인류학자, 사회학자 등 다양한 전문가들의 협력을 통한 여러 학문의 통합적 접근이 중요합니다. AI를 개발하고 사용자와의 상호 작용을 분석하며 특정 도메인의 지식을 고려하기 위해 다양한 분야의 전문가들이 협력해야 합니다. 다양한 전문성과 관행을 가진 사람들 간의 협력은 도전적일 수 있지만, 인간 중심 AI에 대한 공통된 목표로 지식을 공유하고 존중하는 것이 중요합니다.

특정 AI 작업 후보자를 고려하기

특정 AI 작업 후보를 선택할 때, 시스템이 모방하고자 하는 특정 작업을 고려하는 것이 중요합니다. AI 시스템을 설계할 때, 시스템이 특정 작업에 초점을 맞추도록 설계되어야 합니다. 예를 들어, 음성 비서는 사실에 근거한 질문에 답할 수 있지만, 시각적인 정보를 탐색하는 데 한계가 있을 수 있습니다. 인간 중심의 AI를 고려할 때, 시스템이 특정 작업을 학습할 수 있는지를 고려하는 것이 중요하며, 그렇지 않은 경우에는 인간의 전문 지식을 활용하여 AI 시스템을 보완하거나 강화하는 방법을 고려해야 합니다.

에펜의 인간 중심 AI

에펜은 최고의 인간 및 기계 지능을 활용하여 어노테이션 된 고품질 학습 데이터를 제공합니다. 에펜의 데이터 어노테이션 플랫폼은 세계에서 가장 혁신적인 기계 학습 및 비즈니스 솔루션을 지원합니다. 또한 머신러닝 모델을 활용하여 라벨링을 자동화하고 작업자가 더 빠르고 정확하게 작업할 수 있도록 하는 스마트 라벨링 기능을 갖추고 있습니다.

저희는 AI에 대한 인간 참여형 접근 방식을 중요하게 생각하며 모든 작업에서 인간 중심을 유지합니다. 또한 25년 넘게 정부 기관과 세계 최대 기업에 235개 이상의 언어와 방언으로 최고 품질의 데이터와 서비스를 제공해 온 경력을 갖고 있습니다. 인간 중심 주의를 바탕으로 한 AI 구축을 준비하고 계시다면 지금 바로 저희 에펜의 데이터 전문가에게 문의하세요!