AI의 눈부신 발전은 주로 모델의 규모와 데이터 양을 확장하는 ‘스케일링 법칙’에 기반해 이루어졌습니다. OpenAI는 차세대 모델을 출시할 때마다 강력한 성능 향상을 보여왔고, 이러한 스케일링의 접근법은 업계 표준처럼 여겨졌는데요. 하지만 최근 보고된 Information의 보고서에 따르면, OpenAI o1의 후속 모델은 이전 세대 모델에 비해 성능 향상 속도가 둔화된 것으로 나타났습니다.😱 이는 곧 AI 업계의 스케일링 법칙이 한계에 다다랐음을 시사한다고 볼 수 있습니다.

OpenAI의 공동 설립자 일리야 수츠케버는 사전 훈련 규모의 효용성이 정점에 도달했다는 의견을 밝히며, 스케일링의 한계를 공식화했는데요.📢 여기에 더해 AI 훈련에 필요한 고품질 데이터 고갈 문제도 이러한 경향을 가속화하고 있습니다.⌛

이에 따라 AI 연구자들은 ‘추론’을 차세대 발전의 핵심 요소로 주목하고 있는데요. 엔비디아의 선임 연구 과학자인 Jim Fan도 X를 통해 OpenAI o1 모델이 기존 LLM 모델보다 추론에 더 많은 컴퓨팅 파워를 할당했다고 언급했습니다.🔥

이 가운데 주목할 만한 기술 중 하나가 바로 ‘테스트-타임-컴퓨트’입니다. 이는 모델 크기 확대 대신, 실시간으로 가능한 대안을 검토하고 평가하여 최적의 답변을 도출하는 방법인데요. OpenAI의 노엄 브라운에 따르면, 이 기술을 활용할 경우 단 20초의 추론 시간으로 10만 배 이상의 부스팅 성능을 확보할 수 있다고 합니다.🚀 이러한 기술은 실제로 OpenAI o1 모델에 적용되어 추론 능력을 대폭 향상시킬 수 있었고 스케일링 없이도 모델 성능을 높일 수 있다는 가능성을 열어주었습니다.🎉

추론 성능 향상의 또 다른 방법으로는 고품질 추론 데이터 학습이 있습니다. 문제 해결 과정을 단계별로 설명하는 CoT 데이터셋, 복잡한 논리적 추론을 요구하는 다단계 QA 데이터셋, 일반적인 오류와 교정을 포함하는 오류 교정 데이터셋 등 다양한 데이터셋이 추론 최적화를 위한 방법으로 연구되고 있습니다.👏

최근 스케일링 법칙의 한계로 성장 둔화에 직면한 AI 업계는 추론을 활용한 방법으로 새로운 방향성을 찾아가고 있는 모습입니다. 업계에서도 이와 같은 방법이 제한적인 환경에서 LLM 모델의 효율성과 성능을 크게 향상시킬 수 있을 것으로 기대하고 있는데요.😎 TEXTNET도 LLM 추론 능력 향상을 위해 고품질 CoT 데이터셋을 구축해 본 경험이 있는 터라 이와 같은 흐름이 AI 업계를 또 한 번 성장시킬 수 있는 전환점이 되지 않을까 생각해 봅니다.🚀

AI 기술은 이미 우리의 상상보다 더 많은 곳에 사용되고 있습니다. SNS나 너튜브, 온라인뱅킹 등 스마트폰에 설치된 수많은 애플리케이션이 AI를 통한 개인화된 추천과 편의 서비스를 제공하고 있고, 고속도로 감시 카메라에도 AI를 통해 실시간으로 법률 위반 차량을 잡아내고 있죠.🤗 교육 업계도 AI를 통해 다양한 시도가 이루어지고 있는데요. 오늘은 글로벌 온라인 학습 플랫폼 코세라의 사례를 통해 교육 업계에선 AI가 어떻게 활용되고 있는지 알아보겠습니다.

코세라는 AI 교육의 개척자로 잘 알려진 앤듀르 응이 설립한 글로벌 온라인 학습 플랫폼입니다. 다양하고 전문적인 강의를 보유하고 있었음에도 대부분의 강의가 영어로 구성되어 있기 때문에 비영어권 사용자가 이용하기에는 다소 어려움이 있었는데요. 코세라는 이를 해결하여 서비스 범위를 확장하고 양질의 고객 경험을 제공하기 위해 AI 기술을 적극적으로 활용했습니다.🔥

코세라는 GPT-3.5 Turbo 모델과 Gemini Pro의 번역 모델을 활용하여 총 22개 언어로 서비스를 확장하였습니다. 강의뿐만 아니라 자막, 인터페이스, 토론 등 포괄적인 범위에 적용하여 사용자들은 언어의 장벽 없이 서비스를 이용할 수 있게 된 것인데요. 이 과정에서 번역 오류를 최소화하기 위해 다양한 검수 시스템은 물론 피드백 수집 및 주기적인 재번역을 통해 번역 품질을 극대화했습니다.👍

또한, 하나의 과정을 다른 언어를 추가하는 데 약 1만 달러 이상의 번역 비용이 필요했다고 하는데요. 현재는 AI 번역을 통해 20달러 정도면 번역을 할 수 있게 되었습니다. AI를 통해 고객 경험 개선과 비용 절감, 두 마리 토끼를 잡은 것이죠.🚀

 AI 학습 지원 챗봇, 코세라 코치 

코세라 코치는 코세라가 제공하는 AI 학습 지원 챗봇입니다. GPT-3.5 Turbo 모델에 기반하여 제작된 코세라 코치는 강좌 내용에 대한 질의응답을 지원하고 개인화된 피드백을 제공하는데요. LLM 챗봇 특성상 사용자의 프롬프트에 따라 답변의 수준이 달라질 수 있기 때문에 유의성 체크로 질문이 강의와 관련이 있는지 확인하고 강의 내용 안에서 답변을 제공하여 정확성을 확보하고 환각을 감소시킬 수 있습니다.🎯

또한, 사용자의 질의에 자연스럽고 정확한 답변을 생성하기 위해 자연어 처리 기술과 맥락 이해 기술, 감정 분석 기술 등을 활용하여 학습자에 개인화된 학습 경험을 제공하고 있습니다.😎

 교육자와 고용주를 위한, 코스 빌더 

학습자뿐만 아니라 교육자와 고용주를 위한 서비스인 코스 빌더도 서비스합니다. 코스 빌더에 교육 목적과 타깃을 입력하면 프롬프트에 따라 강좌의 구조, 설명, 자료, 과제, 용어집 등을 자동으로 생성해 쉽고 빠르게 맞춤형 강좌를 제작할 수 있습니다.🗃️ 이 과정을 통해 강의 제작 과정이 대폭 간소화되고 서비스 이용자의 접근성을 향상할 수 있습니다.

코스 빌더는 강의 제작에 필요한 비용과 인적자원을 감소시켜 이익률을 개선하고 정확성과 일관성에도 영향을 미쳐 양질의 강의를 지속적으로 생성할 수 있도록 도와줍니다.💻

AI 번역을 통해 전 세계 22개 언어로 서비스를 확장하고 코세라 코치, 코스 빌더를 통해 서비스 접근성과 사용률을 극대화한 코세라. 코세라는 이에 만족하지 않고 AI 더빙 기술을 강의에 적용하거나 Gen AI 아카데미를 통해 개인화된 전문 교육과정을 제공하는 등 서비스 품질 향상에 적극적으로 AI 기술을 도입할 예정이라고 합니다.🔥

코세라의 사례처럼 많은 산업군의 기업이 AI 기술을 통해 사업 성과와 서비스 품질을 개선하고 있는데요. 국내에서도 AI 버츄얼 휴먼을 통해 학습 효과를 상승 시키는 등 교육업에 AI를 적용하는 사례가 증가하는 추세입니다.🚀 우리의 일상에는 우리가 알아채지 못한 AI 기술이 점점 늘어나고 있는데요. 이제 곧 ‘인간과 인공지능이 서로 이롭게 공존하는 세상’이 곧 펼쳐질지 모르겠습니다.