AI가 비즈니스 영역에 더욱 뚜렷한 영향을 미치고 있습니다. 기업용 AI 모델은 작업 시간을 절약하고 업무 효율성을 높이며 수익을 증대시킬 수 있습니다. 이러한 이유로 AI는 경쟁력을 확보하는 데 필수적인 요소로 여겨지고 있습니다.
기업 입장에서 인공지능에 대한 기술적인 배경지식이 부족하다면 AI 도입은 생소하고 어려운 과제일 수 있습니다. 그러나 AI를 성공적으로 적용하기 위해서는 비즈니스 중심적인 접근이 필수입니다. 즉, 비즈니스 의사결정자로서의 역할이 중요하다는 것이죠.
이 글에서는 비즈니스에 적합한 기업용 AI를 만들기 위해 꼭 알아야 할 3가지에 대해 알려드리겠습니다.
1. 단방향성 정보 전달 피하기
많은 경우, AI 프로젝트 아이디어는 회사 내부에서 단방향으로만 정보가 전달되어 개념이 형성되고 구현됩니다. 이런 프로세스에서 비즈니스 이해관계자로부터 시작하여 머신러닝 엔지니어나 데이터 과학자까지의 여정은 5개의 단계와 3가지 관리적 변화를 거쳐야 합니다. 그러나 이러한 단방향 정보 전달은 많은 정보가 손실될 가능성이 있습니다.
Databricks의 머신러닝 실무 책임자인 Brooke Wenig는 관련 문제를 경험했습니다. Brooke는 MyFitnessPal 앱에서 인턴십을 하며 사용자가 입력한 음식을 과일, 야채 등으로 분류하는 모델을 구축하는 임무를 맡았습니다. 그러나 6주간의 데이터 정리와 명확한 계층 구조 생성 후, 그가 만든 그룹이 프로덕션 팀이 원하는 것과는 전혀 다른 것임을 깨달았습니다. 결과적으로 프로젝트는 비즈니스 담당자와 AI 모델을 실행하는 프로덕션 팀 간의 소통 부족으로 인해 중단되었습니다.
기업용 AI 모델 개발에는 데이터 사이언스 이상의 요소가 필요하며 비즈니스 의사결정은 이러한 작업의 핵심 부분을 차지합니다. 그러므로 AI 모델을 구축하는 실무자는 비즈니스 의사결정자와의 충분한 상호작용을 통해 목표와 요구사항을 명확히 이해해야 합니다.
2. 올바른 목표와 성공 측정 방법 정의하기
기업이 AI 솔루션에 상당한 자금과 자원을 투자하더라도 실패하는 경우는 드물지 않습니다. 이러한 상황은 실제로 AI 분야에서 경험이 풍부한 기업들 사이에서도 흔히 발생합니다.
한 가지 사례를 살펴보겠습니다. 2013년, IBM은 텍사스 대학의 MD Anderson Cancer Center와의 협력을 시작했습니다. 이 협력은 IBM의 슈퍼컴퓨터인 Watson을 이용하여 암 연구를 혁신하려는 계획이었습니다. 그러나 MD Anderson은 3년 이상의 시간과 6200만 달러 이상의 자금을 투자한 후에도 이 프로젝트를 중단하게 되었고, 실제로 환자들에게 이 기술을 적용한 적은 없었습니다. 그 이유는 무엇일까요? 이는 인공지능이 영향을 줄 수 있는 올바른 문제를 식별하지 못했기 때문입니다. “암 치료”와 같은 광범위한 목표에 머신러닝을 적용하면 기술의 한계가 빠르게 드러날 수 있습니다. 따라서 AI 모델을 성공적으로 운영하려면 현재 해결해야 할 구체적인 문제를 중점적으로 다루는 것이 매우 중요합니다.
프로젝트를 시작할 때 명확한 목표와 성공 측정 기준, 기대치, 그리고 이정표가 없으면 프로젝트를 실패할 가능성이 크게 증가합니다. 기업용 인공지능을 구축하기 위해서는 AI 모델의 복잡성과 모델 관리에 필요한 것을 정확하게 이해해야 합니다. 적절한 목표와 성공 측정 기준을 설정하면 기업용 AI 모델이 올바른 방향으로 나아가도록 지원할 수 있습니다.
3. 윤리적 AI 구축 고려하기
AI는 사람들의 삶에 직접적인 영향을 미치기 때문에 모델을 설계하는 방식이 매우 중요합니다. 따라서 비즈니스 결과를 도출하는 것뿐만 아니라 AI 모델 결정의 윤리적 영향도 고려해야 합니다. 예를 들어, 모델의 정확도를 90%로 높이기로 결정했다면, 부정확도가 10%의 확률로 나타날 수 있다는 점을 시사합니다. 이때, 모델이 지원 티켓을 더 높거나 낮은 우선순위로 분류하는 경우, 이러한 10%는 큰 문제가 되지 않을 수 있습니다. 그러나 성폭력 신고를 식별하는 등의 실수가 일어나서는 안 되는 케이스라면 10%의 오류는 상당한 책임과 윤리적 결함을 야기할 수 있습니다.
인간의 윤리적 판단에 의존하는 작업을 수행하는 모델을 도입할 때, 데이터 사이언스 팀은 데이터가 다양성을 반영하도록 주의해야 합니다. 데이터 과학자의 임무는 결정을 내리기 위해 의도적인 편견을 모델에 반영하는 것이기 때문입니다. 데이터를 제공하고 편견을 도입하는 알고리즘을 만드는 사람이 민감한 영역에 대한 충분한 맥락을 고려하지 않으면 의도하지 않은 편견이 발생할 수 있습니다.
마이크로소프트의 트위터 챗봇인 테이(Tay)는 이러한 문제의 한 사례입니다. 테이는 트위터를 통해 인간과 대화하는 방법을 배우기 위해 개발되었으나, 이 과정에서 무엇을 배울지에 대한 필터링이 부족했습니다. 결과적으로 테이는 백만 건의 악성 대화 사례를 제공받아 나치주의 챗봇으로 변질되었습니다. 이 사례는 모델을 만드는 사람들이 어떠한 영향을 미칠 수 있는지를 보여주는 중요한 사례입니다.
따라서 의도하지 않은 편견을 방지하기 위해서는 윤리적 우선순위를 명확히 전달하고, 데이터 사이언스 팀이 다양한 관점을 갖도록 지원해야 합니다.
비즈니스 목표에 적합한 맞춤형 기업용 AI 구축을 계획하고 계신가요? AI 업계 경력 26년의 에펜이 직접 도와드리겠습니다. 지금 바로 데이터 전문가에게 상담받아보세요!
