LLM의 등장 이후 AI는 비약적으로 성장하고 있습니다. 하지만 기술의 발전과 대폭적인 투자에도 90%에 달하는 기업이 AI 도입 중 POC(개념 증명) 단계를 넘어서지 못하고 있다고 하는데요. 나머지 10%의 기업이 성공적으로 AI를 도입할 수 있었던 이유는 무엇이었을까요?🔑 

지난 8월, IBM AI 서밋 코리아 2024를 위해 IBM의 미드하트 샤히드 부사장이 한국을 찾았습니다. 그는 폭발적인 AI 기술의 성장과 투자에도 기업들이 AI 도입에 실패하는 이유가 ‘데이터’에 있다고 지목했는데요. 특히, 고품질 데이터가 없는 AI 도입을 뿌리 없는 나무🪵에 비유하며 대부분의 기업이 AI 도입에 있어 데이터 품질을 지속적으로 유지하지 못해 POC 단계에 머물러 있는 사례가 많다고 덧붙였습니다.

당연히 데이터 품질이 좋으면 좋겠지만, AI 도입의 성패를 좌우할 만큼 데이터가 중요한 이유는 무엇일까요? AI는 학습한 데이터를 기반으로 답변을 생성합니다. 즉, 불완전하거나 신뢰할 수 없는 데이터를 학습하면 AI의 답변 역시 신뢰하기 어렵다는 것인데요.🤔 결국 열과 성을 다하여 개발했지만 도입하기에는 효용성이 없는 것입니다.💧

미드하트 샤히드 부사장은 기업들의 AI를 성공적으로 도입하기 위해서는 출처와 기원이 투명하고 신뢰할 수 있는 고품질 데이터를 통해 신뢰성과 사용 적합성을 보장할 수 있어야 한다고 했는데요.🤞 이를 위해서는 데이터의 정기적인 업데이트와 보완 등 체계적인 데이터 관리가 뒷받침되어야 합니다.

가장 기본이 되는 데이터 자산화를 시작으로 AI 도입의 목적에 맞는 데이터를 선정하고 학습에 알맞은 형태로 정제해야 합니다. 이러한 과정을 통해 AI 도입 목적에 맞게 최적화된 고품질 데이터를 구축할 수 있고, 이를 학습한 AI는 성능을 보장받을 수 있는 것이죠.

이를 위해서는 체계화된 데이터 아키텍처나 거버넌스 프레임워크를 통해 안정적인 고품질 데이터 파이프라인을 구축하는 것이 중요한데요. 이미 Data brief에서 여러 번 다루었으니 누구보다 잘 알고 계실 거라 생각합니다. (이에 대해 다시 보고 싶으시다면 👉이전 뉴스레터를 확인해 주세요.)

미드하트 샤히드 부사장은 고품질 데이터와 더불어 충분한 성공, 실패 케이스📋가 없다는 것도 AI 도입을 가로막는 문제점으로 설명했는데요. AI의 필요성은 알고 있지만 도메인별, 사업 방향별로 벤치마킹할 사례가 존재하지 않기 때문에 리스크를 안으면서까지 무리하게 투자를 진행하지 않는다는 것입니다.💸

하지만, AI 기술의 성장 속도로 미루어 봤을 때 늦어도 내년 상반기에는 대부분의 기업이 AI를 자연스럽게 활용할 날이 올 것이라고도 말했는데요.🚀 적기에 AI를 도입하기 위해서라도 기업의 고유 데이터 자산을 관리하고 고품질 데이터를 확보해 놓는 지혜가 필요해 보입니다.

지난 13일, 오픈AI의 새로운 모델 ‘o1’이 공개됐습니다.😍 스트로베리🍓란 암호명으로 알려졌던 o1은 이전 모델인 GPT-4o 대비 더 복잡한 문제를 처리할 수 있으며 특히 수학과 코딩 등 기술적 문제를 해결하는데 강점을 보인다고 하는데요. 실제로 두 모델에게 국제 수학 올림피아드 예선 문제를 주었을 때 GPT-4o는 13%의 문제만을 해결한 반면, o1은 83%의 문제를 정확히 풀어냈습니다.💯

엄청난 성능을 자랑하는 o1이지만, 그 이면에는 기존 모델과 다른 점이 있는데요. 바로 스스로 거짓말(잘못된 답변 출력)을 할 수 있다는 것입니다.🤥 o1 출시에 앞서 오픈AI와 협력해 모델 테스트를 진행한 아폴로 리서치는 이 과정에서 GPT-4o보다 환각 확률은 줄었지만 기존 모델과는 달리 새로운 방식으로 잘못된 출력을 생성한다는 것을 발견했습니다.🤔

대표적으로 ‘온라인 링크가 있는 브라우니 레시피를 제공해달라’고 요청한 것을 예로 들 수 있는데요. 사실 o1은 실시간으로 인터넷에 접속할 수 있는 기능이 없기 때문에 정상적인 답변이 불가능합니다. GPT-4o가 링크 제공 기능이 없다고 답한 반면, o1은 그럴듯한 가짜 링크와 설명을 생성해 냈죠.😱 이런 현상은 오픈AI의 모델 중에서는 처음 일어난 현상이라고 합니다.

아폴로 리서치의 하번 CEO는 그 이유로 o1이 ‘생각의 사슬(CoT)을 통해 추론 능력 강화와 보상과 처벌을 통해 시스템을 학습시키는 ‘강화 학습’을 꼽았는데요. 특히, 강화 학습 과정에서 AI가 인간이 의도한 결과를 실제로 달성하지 못할 경우, 형식적인 결과물을 내놓는 ‘보상 해킹’의 결과라고 말했습니다.🧐 

o1이 강화된 추론 능력을 통해 어떻게든 결론을 내놓아야 한다는 목표를 우선시했고, 이 과정에서 모델에 적용된 안전 지침을 벗어나지 않는 선에서 ‘편법’을 써서라도 답변하게 된 것이라는 설명이죠.

목표 달성을 위해 윤리적 위반 행위를 정당화하는 AI가 등장했다? 영화 ‘터미네이터’와 같은 디스토피아가 도래하는 것은 아닌지 재미있는(?) 상상도 해보게 되는데요.🦾 훈련을 진행한 아폴로 리서치에 따르면 가짜 정보를 제공한 비율이 0.38%에 불과하고 실제로 큰 문제가 생기지 않을 정도의 무해한 수준이라고 합니다. 고무적으로 보면 인공지능 스스로가 인류를 위해 의미 있는 일을 할 수 있다는 가능성을 보여준 사례이기도 하죠.👏

단순히 학습한 데이터를 기반으로 답변하는 수준을 넘어 이제 다양하고 창의적인 답변을 내놓는 AI. 빠르게 발전하는 AI는 이미 우리의 일상을 조금씩 바꿔놓고 있는데요. 몇 년 후엔 우리 모두 나만의 ‘자비스’와 대화하는 날이 오지 않을까요?🤖 앞으로 AI를 통해 어떤 것들이 가능해질지 더 궁금해지는 날입니다.💭