2017년 구글은 ‘Attention Is All You Need’라는 논문을 발표했습니다. 이 논문은 2024년 8월까지 무려 9만 1291회나 인용되며 역대 가장 많이 인용된 AI 논문에 이름을 올리기도 했는데요.😮 이 논문이 가진 파급력은 AI 업계 전반에 ‘강력한 모델을 위해서는 더 많은 데이터, 더 많은 컴퓨팅 파워, 더 많은 매개변수와 같이 규모만 있으면 된다’는 인식을 심어주었습니다.🤔 오늘날 등장하는 새로운 LLM 모델들만 보더라도 무엇보다 모델의 규모를 놓고 경쟁하는 듯하죠.💧

Hugging Face의 AI 책임자인 Sasha Luccioni는 오히려 너무 큰 규모의 모델은 무분별한 데이터 수집과 아동 학대와 같은 사회적 문제를 불러올 수 있다고 합니다.🚨 이뿐만 아니라 모델 운영을 위해 소비되는 에너지로 인한 환경적인 문제도 무시할 순 없죠.🪵 또한, 모델의 규모는 AI 산업 성장에 제한이 될 수도 있는데요. 규모를 확장하기 위해서 필요한 자금력과 기술력을 가진 기업이 AI 산업을 독점하여 AI 업계 전반에 병목 현상이 발생할 수 있기 때문입니다.💦

하지만, 최근 등장한 모델이 상황이 빠르게 변화시키고 있습니다. 무려 1000배 적은 데이터 학습으로 AI의 최전선에 있는 GPT-4o의 성능을 능가하는 모델이 개발된 것이죠.🤗 

Ai2(Allen Institute for Artificial Intelligence)는 오픈 소스 모델인 Molmo를 출시하며 오픈AI의 GPT-4o를 능가하는 성능을 보였다고 발표했는데요. 실제로 다른 경쟁 모델과 Molmo 제품군 중 720억 개의 매개변수를 가진 Molmo-72B 모델을 비교했을 때, 이미지 문서 추출 능력을 평가하는 DocVQA와 이미지 내 텍스트 이해력을 평가하는 TextVQA에서 각각 96.3점과 85.5점을 기록하며 제미나이 1.5 프로와 클로드 3.5 소네트 모델을 능가했습니다. 또한, 초등학교 과학 다이어그램 이해 능력을 평가하는 Ai2의 자체 벤치마크인 Ai2D에서는 GPT-4o를 능가하는 성과를 보이기도 했죠.🎖️

특히, 이 모델은 로봇공학이나 멀티모달 추론 분야에 특히 좋은 성적을 거두었고 텍스트로 설명된 객체를 이미지에서 식별해 내는 Visual Grounding 능력은 타 모델 대비 최고의 성능을 기록했습니다.💯

그렇다면, Molmo는 어떻게 큰 규모의 모델들을 제치고 더 좋은 성능을 발휘할 수 있었을까요? Ai2의 수석 연구 책임자인 Ani Kembhavi는 오픈 소스 모델이 폐쇄형 모델보다 더 좋은 성능을 발휘할 수 있다는 것을 증명하고 모델이 대한 접근성을 높이기 위한 방법으로 ‘효율적인 데이터 수집과 학습’을 선택했습니다.🗃️

사람이 60만여 개의 이미지에 대해 텍스트로 설명한 데이터셋을 구축한 것인데요. 이를 통해 이미지의 내용을 성공적으로 설명하고 이미지 내 사물들을 정확하게 지목할 수 있었습니다.🎯 즉, 이미지의 요소를 분석하여 질문에 답하는 픽셀을 식별할 수 있게 된 것인데요. 그 결과, 경쟁 모델에 비해 학습량은 1000배가량 적었지만, 성능 측면에서는 더 좋은 성적을 거둘 수 있었습니다.🚀

Molmo의 사례는 앞으로 우리가 어떻게 AI 모델을 학습시키고 성과를 개선해 나가야 하는지 생각해 보게 만드는데요.💭 더 이상 모델의 규모가 성능의 척도가 되지 않는 만큼, 보다 실질적인 방법에 주목해 봐야 합니다.🤔 AI 전문가의 글 중에 유독 많이 등장하는 문장이 있습니다. ‘AI가 모든 문제를 해결해 주지 않는다’. 결국 성공적인 AI를 만들기 위해서는 AI에 의존하는 것이 아니라 사람의 주도가 필요하다는 것인데요.🧠 고품질 데이터가 모델의 성능에 큰 영향을 미치는 만큼, 구체적이고 실용적인 데이터 명세와 이를 구현할 수 있는 정교한 큐레이팅과 설계 능력을 확보하는 것이 필요한 시점인 것 같습니다.✨

생성형 AI 서비스가 다양한 산업에 적용되며 데이터 품질에 대한 관심도 높아지고 있습니다. 업계에서는 AI에 최적화된 고품질 데이터를 확보하기 위해 열을 올리고 있는데요. Gartner는 2025년까지 생성형 AI 프로젝트의 30%가 PoC 이후 프로젝트가 중단될 것으로 예측했습니다.😱 생성형 AI 열기가 뜨거운데 왜 중단되는 걸까요? 근본적인 문제로 낮은 데이터 품질과 데이터 격차, 그리고 기업들이 보유한 데이터가 생성형 AI에 최적화 되어있지 않다는 것을 꼽을 수 있습니다.😵

기업이 보유한 데이터를 활용하여 LLM의 기반을 다지는 것은 LLM의 대표적인 문제로 알려져 있는 환각(할루시네이션)을 줄일 수 있을 뿐만 아니라 답변의 정확성과 완성도, 그리고 개인화를 개선하는 데 필수적입니다.💡 기업의 AI 부서나 데이터 부서는 데이터가 생성형 AI에 미치는 영향을 누구보다 잘 알고 있을 텐데요. 그럼에도 불구하고 생성형 AI를 위한 고품질 데이터를 확보하는 데 많은 어려움을 가지고 있습니다. 그렇다면 데이터 품질을 저해하는 요소는 무엇이고 어떻게 해결할 수 있을까요?🚀

 🚩 분산된 데이터, 생성형 AI 서비스의 최대 난제 

엔터프라이즈 데이터는 수많은 시스템에 의해 사일로화 되어 있습니다.🔀 예를 들어 고객 데이터는 CRM, 구매, CS, 커뮤니케이션 등으로 분산되어 있을 수 있죠. 이렇게 분산된 데이터는 생성형 AI 서비스를 구동하기 위한 LLM에 신뢰할 수 있는 고객 정보를 제공하기 매우 어렵습니다.😨

이를 해결하기 위해서는 기업은 실시간 데이터 통합을 통해 데이터 관리, 변환, 익명화, 유효성 검사 등을 수행할 수 있는 체계적인 데이터 인프라가 필요합니다.⚙️ 데이터가 분산되어 있을수록 데이터의 품질은 저하되기 때문에, 기존 데이터를 통합하고 체계적으로 관리할 수 있는 인프라를 구축해 놓아야만 지속적이고 신뢰할 수 있는 생성형 AI 서비스를 제공할 수 있습니다.

 🚩 저품질 메타데이터로 인한 데이터 손실 

데이터를 보조하는 메타데이터는 기업의 정보와 LLM을 잇는 연결고리가 되는데요.🔗 다양한 환경 속에서 역동적으로 바뀌고, 업데이트해야 하는 데이터의 특성상 메타 데이터를 최신 상태로 유지하는 것은 매우 어렵습니다. 또한, 많은 기업이 오래전 구축한 데이터 카탈로그를 유지해야 하는 상황에 처해 있죠. 저품질 메타데이터는 데이터와 LLM 간의 통신 격차를 불러오고 이 과정에서 데이터가 손실💥되어 생성형 AI의 품질과 효율성이 저하될 수 있습니다.

메타데이터를 효율적으로 관리하기 위해 중앙 집중식 리포지토리📌를 구축하는 것은 LLM에 데이터를 더 효과적으로 활용하여 정확하고 개인화된 답변을 제공하는 데 필요한 컨텍스트를 제공할 수 있습니다. 또한, 자동화된 메타데이터 추출 툴을 활용한다면 메타데이터의 정확성을 높일 수 있습니다.

 🚩 데이터 프라이버시로 인한 데이터 품질 저하 

데이터 보호 규정은 민감한 정보에 대한 필수 보호 장치입니다.🛡️ 익명화 및 액세스를 제어하는 것은 규정을 준수하는 데 매우 중요한 요소인데요. 정적, 동적 마스킹과 같은 익명화 기술은 데이터 간의 관계를 모호하게 만들어 데이터의 품질을 저하할 수 있으며 LLM의 신뢰성을 떨어뜨릴 수 있습니다. 데이터 프라이버시를 보호하기 위해 고안된 조치로 의도치 않게 데이터 자체의 품질을 저하시키는 것인데요.📉

이를 방지하기 위해선, 데이터 프라이버시와 데이터 품질을 동시에 관리할 수 있어야 합니다.🕹️ 데이터 품질 메트릭을 정의함으로써 개인정보를 직접적으로 노출하지 않으면서도 데이터 품질을 관리하고, 이와 복합적으로 활용할 수 있는 데이터 마스킹 및 익명화 기술을 활용해야 합니다. 또한 데이터 품질 이슈와 프라이버시 우려 사항을 지속적으로 수집하여 개선하기 위한 피드백 루프를 구현하는 것이 좋습니다.🔄

 🚩 비즈니스와 동기화되지 않은 데이터 품질 이니셔티브 

생성형 AI의 등장 이전까지만 하더라도 데이터 품질 이니셔티브는 비즈니스의 목표 및 전략 이니셔티브를 고려되지 않은 채 별도로 진행되는 경우가 많았는데요. 기업에 따라 규정을 준수하는 것이나 데이터를 정리하는 데 초점을 맞춰 진행하기도 했지만, 거시적인 관점의 비즈니스 목표와 연결되었던 사례는 많지 않았습니다. 이에 기업은 데이터 품질 관리에 대한 필요성을 느끼지 못했고 이를 개선하기 위한 투자도 많지 않았죠.🤨

하지만, 생성형 AI의 등장으로 기업은 고품질 데이터에 크게 의존하게 되었습니다. 기업 내부에서 업무 효율 향상을 위해 사용하는 경우는 상대적으로 덜하지만, 챗봇과 같은 대고객 서비스의 경우엔 서비스의 신뢰를 감소시키고 더 나아가 서비스 문제가 이슈화될 수 있기 때문에 더욱 신경 써야 하는데요. 만약, 기업에서 생성형 AI를 전략적 비즈니스 이니셔티브로 활용한다면 무엇보다 데이터의 품질이 우선시되어야 합니다. 이를 위해선 데이터 거버넌스 체계를 구축하여 비즈니스의 목표와 데이터를 연계하여 전사적으로 공통된 이니셔티브를 확보해야 합니다.🎯 또한, 비즈니스 중심의 데이터 품질 전략 수립을 통해 KPI와 데이터 품질의 연관성을 정립하여 꾸준히 관리, 개선하는 노력이 필요합니다.

오늘날, 많은 기업이 데이터 품질 확보를 위해 고군분투하고 있습니다. 이에 앞서 소개해 드린 방법 외에도 데이터 메시나 레이크하우스, 클라우드를 활용하거나 합성 데이터를 개선하는 등 다양한 시도가 이루어지고 있는데요. 하루가 다르게 발전하는 AI 시장에서 경쟁력을 확보하게 위해 지속 가능한 데이터 품질 및 보호 체계를 구축하는 것이 무엇보다 중요해 보입니다.