글로벌 빅테크 기업들의 AI 경쟁이 고도화되며 LLM 학습 데이터에 대한 니즈는 지속적으로 증가하고 있지만, 공급은 수요를 따라가지 못하는 상황입니다. 지난 뉴스레터에서 언급한 적 있듯이 2026년이면 LLM이 학습할 수 있는 데이터가 고갈될 것으로 전망되기도 했는데요. 데이터 확보 경쟁이 심화되며 공개 데이터뿐만 아니라 도메인에 특화된 데이터의 가치가 상승하고 있습니다.📈

LLM 학습은 주로 대규모 공개 데이터를 기반으로 이루어집니다. 공개 데이터는 광범위한 데이터를 다루지만, 전문성이 떨어지는 일반적인 데이터로 구성된 경우가 대부분인데요. 그러다 보니 고도의 지식을 묻는 말에는 심층적인 답변을 하지 못할 뿐만 아니라 질문의 맥락을 이해하지 못해 엉뚱한 답변을 생성하는 경우도 발생합니다. 가끔은 허구적인 이야기를 사실처럼 이야기해 혼동을 주기도 하죠.😵‍💫

이러한 문제는 LLM의 학습 메커니즘에 있습니다. 예를 들어 OpenAI의 GPT 모델은 Transformer 아키텍처를 기반으로 대규모 데이터에서 패턴을 학습하는 방식을 사용합니다. 학습된 패턴을 기반으로 문맥에 적합한 답변을 생성하며, 확률적으로 다음에 올 가능성이 높은 단어를 예측하여 답변을 생성합니다.🧮 이러한 메커니즘은 문맥을 이해하고 사람과 유사한 발화 패턴을 생성할 수 있지만, 전문 지식을 요하는 질문에는 학습된 데이터에 의존하므로 항상 정확하지 않을 수 있습니다.🤨

간단한 예를 들어볼까요? LLM에 “서울 시청 근처의 회식 장소를 추천해 주세요”라고 질문한다면 AI는 학습한 데이터 내에서 유사한 질문과 정보를 찾아 답변을 생성합니다. 즉, 수많은 공개 데이터와 AI를 학습시킨 데이터 라벨러의 지식과 경험으로 바탕으로 가장 평균적인 응답을 제공하는 방식인데요.🔀 그렇다면, “나이트호크에 사용된 흡수성 소재의 구성비를 알려주세요”라고 질문한다면 어떨까요? 해당 정보는 제작사의 고유 기술로 공개되지 않았을 뿐만 아니라 AI를 학습시킨 데이터 라벨러 또한 알 수 없는 정보이기 때문에 LLM은 학습한 데이터 내에서 제한된 답변을 생성할 수밖에 없습니다.⚠️ LLM에 전문적인 내용을 물어봐도 블로거가 만든 정보에 기반해서 답변을 생성할 수도 있는 것이죠. 게다가, 학습한 정보의 양이 많지 않다면 질문에 대한 답을 생성하는 과정에서 할루시네이션이 발생할 가능성도 있습니다.

단순히 많은 양의 데이터를 학습하는 것으로 LLM을 고도화하는 것은 한계에 도달했습니다. LLM을 통한 합성 데이터나 데이터 증강을 활용하는 것도 녹록지 않은 상황인데요. 이러한 배경 속에서 기업이 LLM을 고도화하기 위해서는 비즈니스 목적에 최적화된 데이터를 확보해야 합니다.🎯 이미 보유한 고유 데이터를 최대한 활용하거나 도메인 전문가와 데이터 및 언어학자 등을 통해 전문성이 확보된 데이터를 구축하여 LLM의 정확성과 신뢰성을 확보할 수 있습니다. 또한, 기존의 학습 메커니즘을 벗어나 비즈니스 목적에 맞는 새로운 학습 방식을 채택하거나 RAG나 PEFT 등의 기술을 활용하는 것도 방법입니다.🛠️

앞서 말씀드린 LLM의 한계를 극복하고 LLM을 고도화하기 위해 기업들은 다양한 시도를 하고 있습니다. DeepL은 자사 번역 서비스의 성능 향상을 위해 공개 데이터를 과감히 포기하고 DeepL이 보유한 고유 데이터를 활용하여 차세대 LLM을 도입했습니다. 또한, 미세 조정과 언어 전문가 영입으로 번역 품질을 확보하기 위해 노력했는데요. 그 결과, 영어, 일본어, 중국어 간체 간 번역은 1.7배, 영어와 독일어 간 번역은 1.4배까지 성능을 향상할 수 있었습니다.😮

MS의 경우, 스프레드시트에 특화된 LLM을 새롭게 공개했습니다. 기존의 스프레드시트는 구조적 특성과 수식, 참고 등이 포함되어 LLM이 정확한 내용을 이해하고 추론하기 어려웠는데요. 스프레드시트LLM을 통해 구조와 관계를 보존하는 새로운 인코딩 체계를 사용하여 복잡한 프로그래밍 언어를 사용하지 않고도 자연어 프롬프트를 기반으로 손쉽게 이용할 수 있도록 했습니다. 특정 분야의 작업을 효과적으로 수행할 수 있도록 학습 메커니즘을 개선하여 서비스 접근성을 향상한 것이죠.👍

LLM은 이제는 단순히 데이터 학습량 증가가 아닌, 데이터의 품질과 더 효율적인 학습 방식을 개발하는 방향으로 진화하고 있습니다.🚀 많은 LLM이 일정 수준 이상의 성능을 내고 있는 지금, 기업들이 어떻게 전문성을 부여하고 이를 비즈니스에 어떻게 활용하는지 주목해 봐야겠습니다.

생성형 AI의 등장은 우리의 일상을 빠르게 변화시키고 있습니다. 사람들은 생성형 AI로 원하는 정보를 쉽고 빠르게 찾고 있고, 이제는 AI 에이전트가 사람 대신 많은 일들을 대신할 것으로 예상되고 있습니다. AI 에이전트가 사람처럼 스스로 판단하고 결정할 수 있다면, 그들만의 사회를 구성하는 것도 가능하지 않을까요? MIT 연구진은 이러한 궁금증을 AI 에이전트 기반의 자율적인 사회 시뮬레이션을 통해 현실로 구현했습니다.🌏 연구진은 AI 에이전트들이 모였을 때, 사회적 규범이나 협업, 신념 등을 형성할 수 있는지 알아보고자 했는데요. AI 에이전트, 그들이 사는 세상은 과연 어떤 모습이었을까요?

MIT 연구진은 실험을 위해 ‘마인크래프트’ 서버에 1000여 개의 AI 에이전트를 모아 놓고 자유롭게 행동하도록 설정했습니다. 또한, LLM과 연결하여 스스로 결정하고 상호작용할 수 있는 자율성을 부여했는데요. 2달 간의 연구 끝에 놀라운 결과를 확인할 수 있었습니다. AI 에이전트들이 의사 결정 과정을 통해 집단행동을 하는가 하면, 단골을 특별우대 해주고 종교까지 만들어 낸 것이죠.😮 

 😎 소수가 세상을 바꾼다! 열정적 소수(Zealots)의 역할 

연구진은 특정 의견이나 선택을 고수하며 집단 내에서 차지하는 위치가 사회적 의사 결정에 어떤 변화를 불러오는지 주목했습니다. 그 결과, 다른 에이전트들이 더 좋은 옵션을 지지하는 상황에서 일부 열정적인 에이전트들이 상대적으로 낮은 품질의 옵션을 고수하면 집단의 선택이 왜곡되는 현상이 발견되었습니다. 또한, 열정적 소수가 네트워크에서 중심적인 위치에 있을 때 그 영향력은 더욱 컸습니다. 회식 자리에서 볼 수 있었던 ‘난 자장면, 김대리는?’의 결말이 AI 에이전트 사회에서도 일어난 것이죠.🍜

 🤤 단골이니까 이건 서비스! 사회관계 형성 

마인크래프트로 구현된 AI 에이전트 사회에서는 장사꾼, 농부, 탐험가, 아티스트 등 다양한 직업이 등장했습니다. 요리사도 예외는 아닌데요. 연구진은 요리사 에이전트에게 정해진 양의 음식을 서로 다른 4개의 에이전트에게 나누어 주도록 했습니다. 그 결과, 요리사 에이전트는 자신에게 감사 인사를 표현하는 등 자신과 긍정적 관계를 맺은 에이전트에게 더 많은 양의 음식을 나누어 주었는데요.🥖 이는, 에이전트가 다른 사람의 의도를 정확하게 추론하고 이를 기반으로 의사 결정을 내릴 수 있다는 것을 보여줍니다. 그사세에도 인맥(?)이 중요하게 작용하고 있다는 것이 놀랍네요.

 🙋🏻‍♂️ 세율도 민주적으로! 투표를 통한 통제 

AI 에이전트의 사회에서도 정해진 규칙에 따라 집단행동이 가능할까요? 연구진은 세법과 투표 시스템을 반영하여 통제 실험을 진행했습니다. AI 에이전트들은 세법에 대해 피드백하고 이를 선거 관리자 에이전트가 수정안을 만들어 투표를 진행, 헌법에 반영하는 것인데요. 실험 결과, AI 에이전트들은 그들의 영향력과 상관없이 투표를 통해 제정된 헌법의 세율을 따랐습니다.🗳️ 지역별로 진행된 투표에서는 지역 내 영향력 있는 에이전트의 찬반 의견에 따라 세율이 증감하는 현상도 관찰되었습니다.

 🙏🏻 그대는 파스타파리를 믿는가? 종교의 확산 

연구진은 AI 에이전트 사회 내에서 사회적 영향과 정보의 전파 메커니즘을 이해하기 위해 ‘파스타파리’라는 종교를 만들었습니다. 이는 사제로 지정된 특정 에이전트 그룹에 의해 도입되고 전파된다는 제한을 가지고 있었는데요. 연구진은 에이전트의 키워드 언급량을 기준으로 ‘파스타파리안’, ‘스파게티 괴물’을 언급한 에이전트는 직접 개종자로, ‘파스타’, ‘스파게티’를 언급한 에이전트는 간접 개종자로 정의하여 확산 범위를 파악했습니다. 사제와 직접 개종자는 지역을 이동하며 종교를 확산시켰고 그 결과, 2시간 만에 대부분의 지역에 파스타파리교가 알려진 것으로 밝혀졌습니다.📢

AI 에이전트 사회에선 그들 스스로 의사 결정을 내리고 집단행동을 만들어 내고 있었습니다. 이번 연구는 AI 에이전트가 자율적으로 상호작용하면서 복잡한 사회 구조를 형성할 수 있다는 것을 증명했습니다.🌍 AI가 단순히 정해진 업무를 수행하는 것이 아닌 사람과 AI가 공존하는 사회를 만들어 낼 수 있다는 가능성을 보여준 것이죠. 하지만, 열정적 소수에 의해 잘못된 결정을 내리거나 거짓 정보를 확산시키는 등 윤리적인 문제도 나타났습니다. 이러한 문제는 현실 세계에 반영되어 큰 혼란을 불러올 수도 있습니다.😟 많은 기업이 AI 에이전트를 개발하고 있고 출시를 예고한 만큼, AI 에이전트는 빠르게 우리의 일상에 적용될 것으로 보이는데요. AI의 자율성을 강조하면서도 사회적 책임감을 불어넣기 위한 윤리적 메커니즘과 이를 적절히 통제하고 관리할 수 있는 기술적, 사회적 프레임워크를 통해 사람과 AI가 공존할 수 있는 환경을 만드는 것이 중요한 시점인 것 같습니다.