심리 상담 AI 개발 성공 사례

미국에서는 매일 약 20명의 퇴역 군인이 스스로 생을 마감하고 있습니다. ReflexAI는 이러한 심각한 문제를 해결하기 위해 퇴역 군인을 위한 심리 상담 AI인 HomeTeam을 개발했습니다.

ReflexAI의 설립자 Sam Dorison과 John Callery-Coyne는 LGBTQ+ 청소년을 위한 자살 예방 프로젝트에서 AI 기술을 개발하며 얻은 경험을 바탕으로 HomeTeam을 만들었습니다. 이 프로젝트의 성공은 심리 상담 훈련의 효율성을 크게 개선시켰습니다. ReflexAI는 이를 바탕으로 퇴역 군인의 정신 건강 문제를 해결하기 위한 HomeTeam 프로젝트를 시작했으며 이 프로젝트는 미 국방부와 Google의 지원을 받아, 안전하고 부담 없는 환경에서 심리 상담 대화를 연습할 수 있도록 설계되었습니다. 현재 HomeTeam은 무료로 제공되며, 수천 명의 사용자를 지원하고 있습니다.

Appen은 민감한 심리 상담 대화의 복잡성을 깊이 이해하고, 심리 상담 AI가 실제 정신 건강 대화를 정확히 시뮬레이션할 수 있도록 지원했습니다. 이를 통해 ReflexAI는 유저로부터 93%의 긍정적인 피드백을 얻을 수 있었습니다. — 글렌 허츠버그, ReflexAI 제품 마케팅 디렉터

프로젝트 목표

ReflexAI는 사용자 연구와 베테랑 커뮤니티의 피드백을 바탕으로 책임감 있는 AI 개발하기 위해 에펜과 협력하여 고품질의 학습 데이터를 수집하고, 현실적이고 공감적인 대화를 구현할 수 있도록 AI 모델을 파인튜닝했습니다.

• 퇴역 군인의 경험과 소통 방식을 반영하는 심리 상담 AI 훈련
• 윤리적인 AI를 통해 민감할 수 있는 정신 건강 대화를 효과적으로 지원

도전 과제

심리 상담 AI는 높은 공감 능력과 민감성, 그리고 미묘한 감정을 다룰 수 있는 정교함이 필수적입니다. 일반적인 AI 모델은 복잡한 감정적 상황에 대한 깊은 맥락적 이해가 부족해, 적절한 지원을 제공하기 어려울 수 있습니다. 그러나 적합한 데이터와 인간 평가를 통해 모델을 세밀하게 파인튜닝 하면, AI는 심리 상담에 적합할 뿐만 아니라 윤리적 고려 사항까지 처리할 수 있습니다.

1. 고품질 데이터 확보: AI 모델이 현실적인 대화를 시뮬레이션하려면 높은 수준의 학습 데이터가 필요합니다.
2. 다양한 경험과 소통 방식 반영: 퇴역 군인들의 배경과 당면한 문제는 다양하기 때문에, 이를 충분히 반영하는 데이터가 필요합니다.
3. 윤리적 AI 개발: 정신 건강이라는 민감한 주제를 다루는 만큼, AI 개발 과정에서 윤리적 기준 준수가 중요합니다.

솔루션

고품질 데이터 확보

ReflexAI는 에펜과 협력하여 데이터 품질과 주제 전문성, 대규모 데이터 등을 고려하여 학습 데이터를 직접 제작했습니다. 민감한 대화의 맥락을 정확히 반영하기 위해 대본 생성, 시뮬레이션 실행, 모델 평가 등 다양한 작업을 수행했습니다.

다양한 경험과 소통 방식 반영

다양한 배경의 퇴역 군인을 대표할 수 있는 데이터를 수집해 모델이 다양한 경험을 학습하도록 지원했습니다. 이를 통해 공감 능력과 적응력 있는 심리 상담 AI가 탄생했습니다.

윤리적 AI 개발

윤리적인 심리 상담 AI를 개발하기 위해 공정한 데이터 소싱과 기여자 보상을 우선시했습니다. 또한 다양한 배경의 전문가 집단과 협력해 신뢰도 높은 데이터를 수집했으며, AI가 실제 환경에서 안전하고 적절한 대응을 할 수 있도록 했습니다.

심리 상담 AI 모델 개선을 위한 전략

1. 데이터 작업자 선정: 정신 건강, 교육, 기술, 군인 지원 분야의 전문성을 가진 작업자들을 기반으로 학습 데이터를 수집했습니다.

• 47%의 작업자는 정신 건강 분야에서 14년 이상의 경력을 보유하고 있습니다.
• 41%의 작업자는 군인 지원 분야에서 개인적 경험을 보유하고 있습니다.
• 모든 작업자는 5.5년 이상의 AI 프로젝트 전문 경력을 보유하고 있습니다.

2. 데이터 처리 및 평가: 데이터 작업자들은 모델 훈련 및 파인튜닝 등 AI 모델 개발의 전 과정에서 중요한 역할을 수행했습니다. 이 과정에는 가상 대본 작성, 시뮬레이션 실행, 모델 성능 평가 등이 포함되었습니다. 또한 AI 개발 단계에서 인간의 전문 지식을 통합함으로써 AI 모델의 현실성과 감수성을 높였습니다. 반복적 프로세스를 통해 AI 시뮬레이션이 실제 대화를 정확하게 반영하고 윤리적 경계를 존중하도록 했습니다.

프로젝트 결과

1. 긍정적인 사용자 피드백: 93%의 사용자가 HomeTeam의 대화 시뮬레이션을 통해 정신 건강 문제에 대한 자신감을 얻었다고 응답했습니다.
2. 향상된 효율성: 초기에 예측한 기간보다 짧은 시간 안에 심리 상담 AI를 성공적으로 개선했습니다.
3. 안전한 대화 환경 제공: 윤리적 데이터와 높은 공감 능력을 바탕으로 민감한 상황에서도 신뢰할 수 있는 지원을 제공했습니다.

ReflexAI의 HomeTeam은 퇴역 군인들의 정신 건강 지원에 AI가 어떻게 효과적으로 활용될 수 있는지를 보여주는 성공적인 사례입니다. ReflexAI은 에펜과의 협력을 통해 높은 품질과 윤리적 기준을 충족하는 심리 상담 AI를 개발하였으며, 이 기술은 퇴역 군인 커뮤니티에 큰 도움을 주고 있습니다. HomeTeam은 AI 기술이 민감한 심리 문제를 해결하는 중요한 도구가 될 수 있음을 입증했습니다. 앞으로도 에펜은 AI 기술을 기반으로 삶의 질을 향상시키는 혁신적인 솔루션을 지속적으로 선도해 나갈 것입니다.