AI의 발전으로 우리의 삶은 점차 편리하고 윤택해지고 있습니다. 하지만 많은 장점에도 불구하고 불공정, 편향, 개인정보 침해, 안전 문제 등 AI 윤리에 대한 우려도 공존하고 있는데요.🥲 AI 윤리는 인공지능을 만드는 것부터 사용하는 모든 과정에서 인간의 가치를 존중하고 사회적 책임을 다하기 위한 가이드라인입니다. 즉, 인간과 AI가 공존하기 위한 기본 원칙이 되는 것이죠. 만약, 이와 같은 원칙이 깨진다면 어떻게 될까요? 아마도 관심과 투자의 대상에서 규제와 억제의 대상으로 변하게 될 것입니다. 실제로 종종 AI 윤리에 대한 문제가 벌어지곤 하는데요.⚠️ 지금까지 어떤 문제가 있었고 어떻게 AI 윤리를 강화할 수 있는 방법은 무엇이 있을지 알아보겠습니다.

 🚩믿었던 도끼에 발등 찍혔다. ChatGPT의 데이터 유출 사례🔐 

지난 2023년 3월, 생성형 AI로 AI의 중심으로 떠오르던 ChatGPT에 사용자 데이터를 훈련하고 보관하는 과정에서 기술적 오류가 발생했습니다. 이는 다른 사용자의 대화 기록, 개인 결제 정보 등 개인 정보가 노출되는 사고로 이어졌는데요.🚨 OpenAI는 긴급 패치를 통해 빠르게 대처했지만, 이로 인한 사용자들의 우려가 확산되며 많은 비판을 받았습니다.

OpenAI는 이 사건 이후 버그 수정과 함께 시스템 안정성 강화를 위해 데이터 보안 프로토콜을 재점검했습니다. 여기에는 사용자 데이터 처리의 안전성을 확보하기 위해 데이터 암호화와 익명화 절차를 개선하고 데이터 보관 정책 강화도 포함되었습니다.🛡️ 또한, 내부적으로 데이터 접근 권한을 제한하고 사용자 대화 기록 저장 기능을 옵션으로 제공하는 등 AI 윤리 강화를 위한 조치를 취했습니다.💪 사용자의 피해 규모는 크지 않았지만, AI 윤리에 대한 경각심을 심어준 사례로 기억되고 있습니다.

 🚩여기저기 데이터 천국? 무단 얼굴 데이터 수집 사례📸 

Clearview AI는 구글, 페이스북, 유튜브 등 다양한 온라인 플랫폼에서 수백억 장이 넘는 이미지를 수집하여 얼굴 인식 소프트웨어를 제작했습니다. 하지만, 데이터 수집 과정에서 사용자 동의를 받지 않고 무단으로 크롤링하고 이를 판매했다는 것이 문제 되었는데요.😱 각 정부에서는 Clearview AI가 무단으로 얼굴 데이터를 수집한 것에 대해 수백억 원대의 소송을 진행하고 있습니다.📜

Clearview AI는 각 정부의 지속적인 규제에 일부 지역에 사업을 중단하거나 데이터를 삭제했습니다. 또한, 데이터 사용 동의 및 투명성 확보를 위한 정책 개선안을 발표했지만 충분한 변화를 이끌어내기에는 어려움이 있다는 비판이 계속되고 있습니다.

 🚩너무 잘 만들어서 문제. 딥페이크를 활용한 사기 사례🥸 

지난, 2024년 1월, 유명 배우의 얼굴과 음성으로 활용해 가짜 투자 권유 영상으로 인한 사기 사건이 발생했습니다. 한 피해자는 1억 6천여만 원의 피해를 입은 것으로도 밝혀졌는데요. 이러한 딥페이크를 통한 피해 사건은 전 세계적으로 급증하고 있는 추세입니다. 사건의 유형도 스캠 광고, 불법 영상, 보이스피싱 등 범위가 다양해지고 있습니다.🎭 

전 세계적으로 딥페이크 범죄가 증가하며 이를 방지하기 위한 기술적, 제도적 변화가 나타나고 있습니다. AI 생성물에 대한 워터마크 표시를 의무화하거나 법적 처벌을 강화하고, 딥페이크를 탐지할 수 있는 소프트웨어 등도 계속 발전하고 있는데요. 국내에서도 딥페이크 범죄를 예방하기 위해 딥페이크 제작 및 유포 금지법🚫을 강화했으며, 피해자 보호를 위한 법적 지원 시스템을 마련하고 있습니다.

 🚩부족하거나, 과하거나. 구글의 편향 사례⚖️ 

일찍이 AI에 많은 투자를 해온 구글도 AI 훈련 데이터셋에 존재하는 사회적 편견에 대한 문제를 겪고 있습니다. 구글 Imagen의 경우 의사는 남자, 간호사는 여자라는 사회적 편견을 기반으로 이미지를 생성하는 경향을 띠었는데요.🤥 Gemini의 경우는 반대로 2차 세계대전 당시 독일 군인 이미지에 동양 여성이나 흑인 남성을 포함시키는 등 다양성을 과도하게 중시하는 모습을 보였습니다.🪖

구글은 이러한 편향을 인정하며, 데이터셋의 편향성 해결을 위해 알고리즘을 개선하고 있습니다. 안전 필터를 적용하여 유해하거나 부적절한 콘텐츠를 걸러내고, 메타 데이터 라벨링을 통해 투명성을 강화했습니다.🔍 또한, 지속적인 모니터링과 평가를 통해 구글의 AI 정책과 일치하는지 점검하며, 사용자들에게 AI 생성 콘텐츠의 한계와 잠재적 위험을 사전에 알리고 있습니다.

이처럼, AI 기술의 발전에도 불구하고 AI 윤리 문제는 지속적으로 발생하고 있습니다. AI 윤리를 위해서는 특정 집단이나 성향에 치우치지 않도록 데이터의 공정성을 검증하고 이를 균형 있게 조정할 수 있어야 합니다. 또한, 사용자의 민감 정보가 유출되지 않도록 데이터를 암호화하고 안전하게 저장, 관리할 수 있도록 안전한 데이터 관리 체계를 확보하고 공개 데이터 외의 데이터를 수집은 사용자의 동의를 받거나 개인정보 보호법을 준수하는 범위 내에서 이루어져야 하죠.⚖️

고품질 데이터를 구축하는 것도 AI 윤리 체계를 마련하는 방법입니다. AI는 학습 데이터를 기반으로 사용자의 질문에 대한 답변을 생성하는데요. 고품질 데이터는 이미 학습한 데이터에 기반해 답변을 생성할 때, 윤리적 기준을 적용하여 편향적이거나 문제의 소지가 있는 데이터를 필터링할 수 있고 다양성을 부여하는데 가이드라인의 역할을 수행하기 때문입니다.🔥 초기 개발부터 윤리적 기준을 충족한 고품질 데이터를 구축한다면 모델의 공정성과 신뢰성을 확보할 수 있습니다.

국가 차원에서도 AI 윤리 체계 마련을 위해 다양한 노력을 기울이고 있습니다. 과기부, 국토부, 방통위, 개보위 등 여러 부처에서 AI 윤리 가이드라인을 발표하고 있고 AI법, 제도 및 규제 개선 로드맵 등을 통해 AI 규제 프레임워크를 구축하고 있습니다. AI의 발전으로 일상 속에서도 다양한 AI 모델이 활용되고 있는데요. 사람과 AI가 조화롭게 어우러지는 세상을 위해서라도 AI 윤리 체계를 위한 기업들의 노력과 관심이 필요해 보입니다.

너무 똑똑해도 문제?𖡎 현시대 최강 모델, ‘오픈AI o1’의 거짓말🤥

생성형 AI는 이미 다양한 분야에서 뛰어난 성능을 보여주고 있습니다. 📈 이제 사람들은 GPT를 통해 글을 쓰거나 코딩을 하고, DALL·E와 SORA로 이미지와 영상을 만들죠. 이러한 생성형 AI 모델은 다양하고 복잡한 작업을 수행하고 있으며 수준 높은 결과물을 만들고 있습니다. 생성형 AI는 모델별로 특화된 데이터를 훈련한 만큼 특정 작업에 특화되어 있지만, 다양한 상황에 적응하거나 사람과 같은 일반적 사고를 수행하는 능력은 여전히 부족한 것이 현실입니다.🤖

하지만, 최근 OpenAI의 기술 스태프인 Vahid Kazemi는 SNS에 ‘우리는 이미 AGI를 달성했으며 o1을 통해 더욱 분명해졌다’는 글을 게시하며 큰 반향을 불러일으켰습니다. 특히 AI 산업을 선도하고 있는 OpenAI 관계자의 말이라 더욱 주목을 받았는데요.📢 우리는 이 발언으로 OpenAI의 생성형 AI 모델이 점차 더 인간과 유사한 사고 능력을 보이고 있음을 유추해 볼 수 있습니다. 하지만 일부 전문가들은 이 의견에 대해 ‘과장된 기대일 수 있다’며 현재의 생성형 AI는 AGI에 다다르지 못했다고 평가하고 있습니다.🙅‍♂️

AGI는 현재의 생성형 AI와는 달리 특정 작업을 넘어 인간처럼 다양한 작업을 수행하고 학습할 수 있는 범용인공지능을 뜻하는데요. AGI가 실현되면 인간의 사고 확장 도구로 사용되며, 다양한 분야에서 혁신적인 변화를 이룰 수 있을 것으로 기대되고 있습니다.🚀 예를 들어, 의료계에서는 환자 데이터를 분석해 맞춤형 치료법을 개발하거나 질병을 예측할 수 있습니다. 또한, 로봇공학과 결합하여 가사도우미나 고위험 직군의 업무를 대신 수행할 수도 있고, 더 나아가 독창적인 아이디어로 창작 활동을 할 수도 있습니다.💯

반면, 윤리적인 과제도 공존하고 있는데요. 위의 콘텐츠에서 언급했던 AI 윤리에 더해 사회적 책임과 노동력 대체, 통제 등의 더욱 복잡한 윤리적 문제를 해결해야 합니다. 이를 위해서는 AGI의 편향성을 줄이고 정확성을 개선할 고품질 데이터는 물론, 잠재적 위험을 최소화하고 투명성과 책임성을 보장하기 위한 법적, 윤리적 프레임워크를 구축해야 하죠. 뿐만 아니라 AGI가 사회에 미칠 영향을 고려하여 인간이 AGI를 어떻게 받아들일 수 있는지에 대한 충분한 사회적 논의가 필요합니다.🤝 

오늘날의 생성형 AI는 몇 년 전까지만 해도 상상할 수 없었던 놀라운 수준으로 성장했습니다. 하지만, AGI의 본질인 범용성과 자율적 학습, 직관적 사고와 추론, 적응성 등을 고려해 봤을 때 AGI를 ‘달성’했다고 판단하기는 어려울 것 같습니다. 그래도 지금까지의 발전 속도로 본다면 가까운 미래에 AGI가 등장하지 않을까 예상해 보는데요.🕒 곧 다가올 AGI 시대! 큰 잠재력을 가지고 있는 만큼 신중한 시각으로 꼼꼼히 준비한다면 인류의 미래를 바꿀 또 한 번의 혁명이 일어나길 기대해 봅니다.

데이터 업계 종사자의 고민,😶‍🌫 AI 때문에 실업자가 된다고? 댓츠노노🙅‍♂️