최근 가트너는 2025년 10대 전략 기술 트렌드 보고서를 발표했습니다. 보고서에는 AI의 필수성과 위험, 컴퓨팅의 새로운 지평, 인간과 기계의 시너지란 3자기 주요 주제를 기반으로 2025년 주도할 10가지 기술 트렌드를 언급되었는데요.🎯 각각의 트렌드로는 AI 에이전트, AI 거버넌스 플랫폼, 허위 정보 보안, 양자 이후 암호화, 주변 비가사성 지능, 에너지 효율적 컴퓨팅, 하이브리드 컴퓨팅, 공간 컴퓨팅, 다기능 로봇, 신경학적 강화를 꼽았습니다. 이 중 9가지 항목이 AI와 연관되어 있어 2025년에도 AI의 전성기는 계속될 것으로 보입니다.🚀

20세기 중반, AI의 개념이 처음 등장한 후부터 지금까지 AI는 끊임없이 발전해 왔습니다. 하지만, AI가 본격적으로 주목받게 된 계기는 2022년 생성형 AI가 등장한 이후라고 할 수 있는데요. 생성형 AI의 등장 이후 폭발적으로 성장한 AI 시장은 이제 AI 에이전트의 상용화를 앞두고 있습니다. 하지만, 급속 성장을 이룬 만큼 ‘환멸의 골짜기’가 언제 찾아올 것인지에 대한 우려도 동반되고 있습니다.🥺 올해 3월, AWS의 연례 킥오프 행사에서 가트너의 시라그 드카테는 2025년 AI 기술이 ‘환멸의 골짜기’에 도달할 수 있다고 언급하기도 했죠.

  가트너의 하이프 사이클 
기술의 발전과 시장에서의 기대 변화를 5단계로 구분하여 기술의 성숙도를 시각적으로 표현하는 도구

• 1단계-기술 촉발: 새로운 기술이 개념적으로 주목받기 시작. 미디어와 대중의 관심을 받지만, 아직 상용화되거나 상업적 가치는 입증되지 않은 상태
• 2단계-과장된 기대의 정점: 초기 성공 사례들이 등장. 기술에 대한 기대가 최고조로 일부 기업들은 사업에 착수하지만, 많은 기업이 관망하는 단계
• 3단계-환멸의 골짜기: 기술 구현이 실패하거나 기대에 미치지 못하면서 관심 감소. 많은 기업이 포기하거나 실패하지만, 일부는 지속적인 개선을 통해 생존함
• 4단계-깨달음의 단계: 기술의 장점이 명확해지면서 성공적인 사례 증가. 시장에서 기술에 대한 이해가 깊어지고, 많은 기업이 참여함
• 5단계-생산성의 안정: 기술이 시장에서 주류로 자리 잡고, 실질적인 성과 도출

환멸의 골짜기가 찾아오면 기술에 대한 기대와 현실 사이에서 발생하는 괴리로 실망감과 투자 심리 위축 등 기술 발전을 저해하는 부작용이 생길 수 있습니다. 현재 AI 시장을 주도하는 오픈AI나 앤트로픽 등의 빅테크 기업도 매년 대규모 자금 조달에 나서고 있는 상황에서 상대적으로 입지가 적은 AI 스타트업은 자금 조달에 더욱 애를 먹을 수밖에 없다는 것이죠.😢 또한, 차별화되지 않은 기술도 현재 AI 산업의 약점으로 꼽히고 있습니다. 생성형 AI의 선두 주자인 오픈AI도 많은 기업들로부터 성능을 따라 잡히고 있고, 기업들도 기술적 차별성보단 데이터나 컴퓨팅 등의 인프라 싸움으로 확장하고 있는 상황입니다.💥

환멸의 골짜기를 대비하기 위해선 차별성 있는 기술력을 확보하는 것이 중요한데요. 가트너의 2024 인공지능을 위한 하이프 사이클 보고서를 통해 어떻게 환멸의 골짜기에 대비할 수 있을지 알아보겠습니다.

지금까지의 생성형 AI는 표준화된 프로세스를 통해 생성형 AI의 성능을 향상시키거나 기존의 서비스와 결합하는 형태로 발전해 왔는데요. 환멸의 골짜기에 직면해 있는 만큼 다양한 방면에서 혁신적인 접근을 모색해 봐야 합니다.

기업이 고품질 AI 학습 데이터를 확보하기 위해서는 보안이나 편향, 윤리 등이 복합적으로 고려되어야 합니다. 특히, 앞으로는 AI에 대한 규제가 더 강화될 것이라는 전망이 있는 만큼 AI 도입에 있어 기술적인 부분 외에 데이터 거버넌스, 보안, 윤리 등 비기술적인 요소에 주의를 기울이는 것이 중요합니다.🤝

생성형 AI의 다음 단계는 머신러닝, 자연어 처리, 지식 그래프 등과 같은 AI 방법론을 결합하여 활용성과 확장 가능성을 보유한 복합 AI로 예상되고 있는데요. 기업은 이러한 접근 방식을 통해 다양한 환경에서도 정확한 예측과 의사 결정 및 자동화를 통해 AI 이니셔티브를 극대화할 수 있습니다. 이러한 복합 AI는 단일 기술에 의존하지 않고 문제를 여러 기술로 분산하기 때문에 단일 형태의 AI에 비해 관리가 쉽고 성능을 향상시킬 수 있어 주목받고 있습니다.

2024년 하이프 사이클에서 가장 눈에 띄는 것은 AI 엔지니어링과 지식 그래프입니다. 먼저, AI 엔지니어링은 기업에서 대규모로 AI를 제공하는데 기반이 되는 기술인데요. 기업이 AI를 통해 디지털 전환하기 위해선 데이터, 분석, 소프트웨어 기반 마련 등 다양한 어려움이 발생하게 됩니다. 이때 데이터옵스, 모델옵스, 데브옵스와 같은 AI 엔지니어링을 통해 구조화하면 쉽게 AI를 도입할 수 있습니다.🛠️

지식 그래프는 객체, 이벤트, 상황, 개념 등 실제 세계의 엔티티의 네트워크 간의 관계를 시각적으로 표현할 수 있는 수단입니다. 지식 그래프가 중요한 이유는 신뢰할 수 있는 논리로 추론에 대한 설명이 가능하다는 것인데요. 이는 서비스의 신뢰도와 정확성을 높일 뿐만 아니라 AI의 개인화를 통해 사용성을 극대화할 수 있습니다.✨

AI 기술은 현재 기대의 정점에 있다고 평가되는 만큼, 가까운 미래에 환멸의 골짜기에 접어들 것으로 예상되고 있는데요. 하지만, 이것이 AI의 실패를 이야기하는 것은 아닙니다. 오히려 이러한 위기를 극복한 진보된 AI 기술은 하이프 사이클의 4단계, 5단계를 넘어 시장에서 막대한 영향력을 발휘할 것으로 보이는데요.💪 지금 이 순간에도 많은 기업이 AI의 발전을 위해 노력하고 있는 만큼, AI 산업이 환멸의 골짜기를 어떻게 헤쳐나가는지 지켜볼 필요가 있을 것 같습니다.

AI 업계 종사자 1,500명에게 직접 물어봤다📢 2024 하반기 AI 트렌드📑

최근, 하버드와 미시간 대학 연구진이 AI 모델에 대한 숨겨진 능력에 대한 흥미로운 연구 결과를 발표했습니다. AI 모델은 우리가 알고 있는 것보다 훨씬 더 똑똑하지만, 특별한 조건이 없으면 그 능력을 드러내지 않는다는 것인데요. AI 모델의 숨겨진 힘을 발현시킬 수 있는 메커니즘은 무엇이고 앞으로 AI 시장에 어떤 변화를 불러올까요?🤔

연구진은 확산 모델을 활용한 연구를 통해 생성형 AI가 사물의 크기나 색상 등 기본 개념을 어떻게 다루는지를 추적하는 과정에서 한가지 특이점을 발견했는데요. 모델의 능력은 특정한 단계에서 급격히 발현되고, 새로운 능력을 습득하는 순간에 모델의 능력에 명확한 전환점이 발생하는 일관된 패턴을 보이고 있었습니다.💡 

실제로 일반적인 프롬프트를 통해 사물의 개념을 파악했다는 결과를 얻었을 때보다 약 2,000단계 먼저 사물의 개념을 습득한 것으로 나타났습니다. 개념의 난이도에 따라 6,000단계에서 20,000단계까지 차이가 났는데요.😮 AI가 데이터를 학습하고 답변을 제시하기까지의 개념 신호를 조정하며 테스트한 결과 프롬프트와 학습 속도에 상관관계가 있다는 것을 알 수 있었습니다.🔗 

연구진은 새롭게 밝혀진 AI의 숨겨진 능력을 드러내기 위해 다양한 프롬프트 방법을 사용했는데요. 이 과정에서 선형 잠재 개입과 과잉 프롬프트를 통해 AI 모델의 숨겨진 능력을 발현시킬 수 있었다고 밝혔습니다.💬

• 선형 잠재 개입(Linear latent intervention): AI 모델의 잠재 변수에 대해 선형적인 개입을 수행
• 과잉 프롬프트(Overprompting):  AI 모델에 표준 테스트에서 보여주기 전에 복잡한 행동을 유도

연구에 따르면, ‘웃는 여성’과 ‘모자 쓴 남성’을 개별적으로 생성할 수 있지만 일반적인 프롬프트 테스트로는 두 특성을 결합한 결과를 얻기 어려웠지만, 실제로는 AI 모델이 두 특성을 결합하는 방법을 더 일찍 학습했다고 하는데요. 기존의 일반적인 프롬프트 방법으로 AI 모델의 능력을 끌어내기엔 역부족이었다는 것을 보여줍니다.😱 

이는 마치 AI 모델이 오랜 훈련 끝에 완벽한 성능을 내는 그로킹(Grokking)처럼 보일 수 있지만, 이와는 분명한 차이가 있다고 밝혔는데요. 그로킹은 반복되는 훈련 후 발생하며 동일한 데이터를 여러 분포로 구조화하는 과정을 거치지만 위와 같은 현상은 능동 학습 중에 나타났다고 합니다. 즉, 점진적인 표현 개선이 아닌 단계적 변화를 통해 개념을 조작하는 새로운 방법을 찾아냈다는 것이죠.👌

AI 모델의 숨겨진 능력은 모델이 우리의 생각보다 훨씬 더 강력한 잠재력을 가지고 있다는 것을 증명하지만, 반대로 인간이 AI 모델을 이해하고 제어하는 것에 어려움이 있다는 것을 보여주기도 합니다. 또한, 기존의 AI 모델 평가에 있어서 모델의 성능을 과소평가할 수 있고 결국 모델의 긍정적/부정적 능력에 대해 오판하는 상황이 발생할 수도 있죠.⚠️ 분명한 것은 AI는 우리의 상상 이상으로 큰 잠재력을 가졌다는 것인데요. AI 모델의 숨겨진 능력을 정확히 이해하고 제어하기 위해 명확한 평가 기준과 방법이 새롭게 마련되어야 할 것으로 보입니다.🔥 까면 깔수록 터지는 AI의 잠재력. 다음엔 또 어떤 것으로 우리를 놀라게 할지 기대가 되네요.👀