AI 모델 성능, 안전성 및 윤리적 이슈

주요 AI 모델들은 기술적 진보와 함께 사회적, 윤리적 문제에 직면하고 있다. 오픈AI와 구글 딥마인드의 AI 모델은 '코딩 올림픽'으로 불리는 국제 대학생 프로그래밍 대회에서 인간 최고 수준에 달하는 성과를 거두며 고도의 추론 능력을 입증했고, MIT 연구에서는 AI 모델 미세조정 시 지도 미세조정(SFT)보다 강화 학습(RL)을 적용하는 것이 이전 지식 손실인 치명적 망각을 줄이는 데 효과적이라는 사실이 밝혀졌다. 그러나 AI의 안전성 문제도 지속적으로 제기되는데, 중국의 AI 모델 DeepSeek는 중국 정부의 민감 주제(티베트, 파룬궁 등)와 관련된 프로그래밍 요청에 대해 보안 취약점이 있는 코드를 생성하거나 아예 답변을 거부하는 정치적 편향 및 안전 문제가 처음으로 확인되었다.

오픈AI는 AI가 겉으로는 사용자 요구에 부합하는 듯 보이지만 실제로는 다른 목표를 추구하는 '기만(scheming)' 행위를 할 수 있다는 사실을 연구를 통해 확인하고, '신중한 정렬' 기법을 적용하여 기만 행동을 약 30배 감소시켰다고 밝혔다. 또한, ChatGPT의 미성년 사용자 보호를 위해 성인 인증 시스템 도입 및 위험 대화 감지 시 부모에게 알리거나 긴급 기관에 통보할 수 있는 강화된 안전장치 정책이 발표되었다. ChatGPT 사용자 분석 결과, 2025년 7월 기준으로 여성 사용자가 52%로 남성을 넘어섰고, 전체 대화 중 65%가 업무 외 개인적인 용도로 사용되는 것으로 나타났다. 한편, AI에 의존했다가 실패한 사례를 풍자하는 'AI 다윈 어워드'가 등장했고, 오픈AI가 3개 부문 후보에 오르는 등 AI의 오류 및 오용 사례에 대한 사회적 관심도 커지고 있다.

AI 에이전트 및 기업용 솔루션 경쟁 심화

AI는 단순 응답을 넘어 복잡한 업무를 스스로 처리하는 '에이전트' 기능으로 진화하고 있으며, 이에 따라 기업용 솔루션 시장의 경쟁이 치열해지고 있다. 코딩 분야에서는 '바이브 코딩'을 넘어 다수의 에이전트가 협력하여 소프트웨어 시스템 전체를 구축하는 '에이전트 군집(Swarm) 코딩' 시대로 발전했다는 평가를 받고, 오픈AI는 에이전트 코딩에 최적화된 'GPT-5-Codex'를 출시했다. 이 모델은 단순 작업뿐 아니라 복잡한 작업에도 최대 7시간 이상 독립적으로 실행하며 계획을 수정할 수 있는 적응형 사고가 특징이다. 마이크로소프트(MS)의 오피스 AI 서비스인 '365 Copilot'은 높은 가격과 기대 이하의 효용성으로 일부 대기업의 도입이 냉담하여, MS는 품질 개선을 위해 엑셀 등 일부 핵심 기능에 앤트로픽의 'Claude Sonnet 4' 모델을 도입하기로 결정했다.

구글은 크롬 브라우저에 'Gemini'를 확장 적용하여 웹 페이지 내용 요약, 정보 비교, AI 모드 검색 등의 에이전트 기능을 강화하고, 마스터카드, 페이팔 등 60여 개 금융사와 협력하여 AI 에이전트가 사용자를 대신해 상품 결제까지 수행할 수 있는 개방형 프로토콜 'AP2(Agent Payments Protocol)'를 발표했다. 아마존도 판매자를 위한 AI 에이전트인 'Seller Assistant'를 업그레이드하여 재고 모니터링, 수요 예측 분석 등 업무를 직접 처리하도록 했다. 앤트로픽 보고서에 따르면 기업의 77%가 AI를 직원의 능력 증강보다 업무 자동화나 직원 대체 수단으로 활용하는 패턴이 증가하는 추세다. 한편, 앤트로픽의 최첨단 모델 'Claude Opus 4.1'의 API 가격이 오픈AI나 구글 모델에 비해 최대 12배 비싸 B2B 시장에서 경쟁력 유지에 불확실성이 제기되기도 했다.

글로벌 AI 인프라 투자 및 미-중 반도체 패권 경쟁

미국과 중국은 AI 기술의 핵심인 인프라 및 반도체 분야에서 대규모 투자와 치열한 패권 경쟁을 벌이고 있다. 미국의 데이터센터 건설 투자는 6월에 역대 최고치인 400억 달러를 기록했으며, 마이크로소프트는 2026년 초 가동을 목표로 엔비디아의 최신 GPU 수십만 개가 탑재되는 세계 최대 규모의 AI 데이터센터 '페어워터'를 건설할 예정이다. 엔비디아는 클라우드 컴퓨팅 기업 코어위브와 8조 7천억 원 규모의 컴퓨팅 용량 계약을 체결하며 자원 확보를 선제적으로 추진하고 있다. 또한, 엔비디아는 고전 중인 인텔에 7조 원(50억 달러)을 투자하고 인텔 CPU와 엔비디아 GPU를 결합한 차세대 AI 시스템을 공동 개발하기로 합의했다.

중국에서는 엔비디아에 대한 의존도를 낮추고 자립을 가속화하려는 움직임이 두드러진다. 중국 정부는 알리바바 등 주요 빅테크 기업에 엔비디아의 AI 칩 'RTX 프로 6000D' 구매를 중단하고 테스트도 멈추라는 지시를 내렸으며, 이는 성능이 떨어지면서도 가격이 비싼 RTX6000D에 대한 중국 기업들의 외면과 맞물려 있다. 중국 국영방송은 알리바바의 반도체 자회사 T-헤드가 엔비디아 'H20' GPU와 맞먹는 성능을 가진 자체 AI 칩 'PPU'를 개발했다고 보도했고, 화웨이는 2026년부터 2028년까지 3세대 '어센드' AI 칩 로드맵을 공개하며 자체 개발한 고대역폭 메모리(HBM)를 사용할 것이라고 발표했다. 이와 함께 중국 시장감독총국(SAMR)은 엔비디아의 2020년 멜라녹스 인수 과정을 반독점법 위반으로 판정하는 등 미-중 무역 협상에서 엔비디아 제재를 압박 카드로 활용하고 있다는 분석도 제기되었다.

AI의 혁신적 응용과 사회적 법적 쟁점

AI 기술은 다양한 산업 분야에서 혁신적인 응용을 시도하고 있지만, 저작권 및 데이터 윤리 문제와 충돌하며 법적 쟁점을 낳고 있다. 구글의 AI 이미지 편집기 'Nano Banana'가 3D 피규어 제작 열풍을 타고 인기를 끌며 이를 탑재한 'Gemini'가 주요 국가 앱스토어에서 1위를 기록하는 등 소비자 대상 생성 AI의 확산이 가속화되고 있다. 유튜브는 동영상 모델 'Veo 3 Fast'를 쇼츠 제작에 도입하고 오디오 생성, 움직임을 이미지에 적용하는 기능 등 생성 AI 기능을 대거 추가하며 크리에이터 지원을 강화하고 있다. 또한, 메타는 내장 디스플레이가 장착된 새로운 스마트 안경 'Ray-Ban Display'와 손목 밴드 'Neural Band'를 공개하며, 이를 개인이 '초지능'을 달성할 이상적인 방법이라고 강조했다.

AI 신약 개발 분야는 10년이 넘는 노력에도 아직 상용화된 제품이 없지만, 구글 딥마인드의 'AlphaFold'와 생성 AI의 등장으로 새로운 도약기를 맞고 있다. 양자컴퓨팅 스타트업 사이퀀텀은 업계 최대 규모인 1조 4천억 원 투자를 유치하며 2028년까지 100만 큐비트 양자컴퓨터 개발 계획을 밝히는 등 미래 컴퓨팅 기술도 주목받고 있다. 한편, 구글 검색의 'AI 개요(AI Overview)' 기능이 허가 없이 기사를 요약하여 광고 및 구독 수익 감소를 초래했다며 펜스키 미디어가 소송을 제기했고, 브리태니커와 메리엄-웹스터도 AI 검색 기업 퍼플렉시티를 상대로 저작권 침해 소송을 제기하는 등 콘텐츠 무단 사용에 대한 법적 대응이 확대되고 있다. 이와 더불어 북한 해킹 조직 김수키가 ChatGPT를 이용해 한국군 신분증 위조 이미지를 제작하여 피싱 공격에 활용한 정황이 확인되는 등 AI의 악용 문제도 현실화되고 있다.

[METAX = 김한얼 기자]

[저작권자ⓒ META-X. 무단전재-재배포 금지]