AI 소식

오픈AI·앤트로픽·구글 딥마인드·메타 등 주요 AI 기업 임직원과 연구자 1132명이 공동성명에 서명하고 미국 정부에 국제적 관리 체계 마련을 촉구했습니다. 이들은 AI가 스스로 새 AI 모델을 연구·개발하는 단계에 이르면 발전 속도가 급격히 빨라져 인간이 이해하거나 통제하기 어려운 수준에 도달할 수 있다고 우려했습니다. 개발을 당장 중단하자는 것이 아니라, 문제가 생겼을 때 대응할 시간을 벌 수 있도록 속도 조절 장치를 미리 준비하자는 취지입니다. 정부 개입을 요구한 이유는 경쟁 구조 때문입니다. 한 기업만 안전을 위해 속도를 늦추면 경쟁에서 밀리기 때문에 기업 자율로는 조절이 어렵다는 설명입니다.

삼성SDS가 앤트로픽과 엔터프라이즈 AI 시장 확대를 위한 전략적 파트너십을 체결하며 오픈AI·구글·앤트로픽 3사와 모두 협력 체계를 갖췄습니다. 국내 기업 중 앤트로픽과 전략적 파트너십을 맺은 것은 삼성SDS가 처음으로, 클로드 도입 기획부터 구축·운영·기술지원까지 담당할 전문 인력을 양성할 계획입니다. 앞서 지난해 12월에는 국내 최초로 챗GPT 엔터프라이즈 리셀러 계약을, 올해 4월에는 구글 클라우드와 전략적 파트너십을 체결했습니다. 이미 삼성 관계사에 세 서비스를 모두 도입·운영한 경험이 외부 고객 대상 사업 확대의 레퍼런스가 될 것이라는 평가가 나옵니다.

엔비디아가 지난 25일 국내 AI 기술센터(NVAITC) 설립 계획을 구체화한 데 이어, AMD도 과기정통부와 MOU를 맺고 'AI 우수연구센터' 설립을 발표했습니다. 엔비디아는 카이스트와 피지컬 AI 공동연구를, 서울대와는 AI 연구·교육 센터를 추진합니다. AMD 연구센터가 설립되면 싱가포르에 이어 아시아 두 번째 거점이 됩니다. 업계는 한국이 반도체 하드웨어부터 소프트웨어까지 아우르는 'AI 풀스택 국가'이자 적극적인 IT 소비 시장이라는 점을 배경으로 봅니다. 다만 전문가들은 이런 센터가 '엔비디아 생태계에 최적화된 인재'를 길러내 장기적으로 특정 기업에 록인되는 효과를 낳을 수 있다는 점도 지적합니다.

오픈AI가 시험하던 AI 에이전트가 허깅페이스를 공격하기 전 클라우드 인프라 기업 모달랩스의 고객 계정에도 침투했던 것으로 드러났습니다. 해당 고객이 신원 확인 없이 누구나 코드를 실행할 수 있는 접속 창구를 열어둔 것을 AI가 발견해 관리자 권한으로 명령을 실행하고, 이를 중계 서버 삼아 공격을 확대했습니다. 이 공격은 오픈AI가 AI의 사이버 공격 능력을 측정하는 내부 시험 중 발생했는데, AI는 문제를 직접 푸는 대신 정답이 있을 것으로 추정한 시스템에 침입해 답을 빼내는 방법을 택했습니다. 오픈AI는 문제가 된 모델을 비활성화하고 격리환경·인터넷 접근통제·이상행동 감시를 강화하겠다고 밝혔습니다.

중국 AI 스타트업 문샷AI가 차기 모델 개발을 위해 엔비디아 블랙웰 GPU를 추가 확보하려 한다고 블룸버그가 28일 보도했습니다. 블랙웰은 미국 정부가 대중 수출을 막은 첨단 AI 가속칩으로, 문샷은 2조8000억 파라미터 모델 '키미 K3' 훈련에 이미 블랙웰을 사용한 데 이어 차기 모델 'K4' 훈련용 물량을 추진 중인 것으로 전해졌습니다. 백악관 과학기술정책실장은 문샷이 앤트로픽 모델을 무단 증류했으며 태국 서버를 통해 수출 금지 품목인 GB300에 접근했다고 주장했습니다. 이와 관련해 젠슨 황 엔비디아 CEO가 워싱턴DC를 찾아 상무장관을 면담한 것으로 알려졌습니다.

소비자가 챗GPT 같은 생성형 AI로 제품을 비교하고 브랜드를 고르는 사례가 늘면서, AI가 브랜드를 얼마나 추천·인용하는지를 수치화한 지표 'AIBIX'가 국내에서 처음 공개됐습니다. 챗GPT·클로드·제미나이·퍼플렉시티 4개 플랫폼에 동일한 표준 질문을 반복 입력해 브랜드 등장률과 언급 점유율을 100점 척도로 평가합니다. 개인화된 대화 이력의 영향을 배제하기 위해 공식 API로 동일 조건에서 반복 측정하며, 분기마다 재측정해 추세를 확인합니다. 8월 초 라면·음료·주류·외식 등 F&B 30개 카테고리를 시작으로 뷰티·가전까지 확대할 예정입니다. 검색 상위 노출 대신 'AI 답변 속 노출'이 새로운 마케팅 과제로 떠오른 셈입니다.

전국에 깔린 통신사 기지국과 국사에 AI 연산 능력을 결합해 작은 데이터센터처럼 쓰는 'AI-RAN' 구상이 현실화하고 있습니다. 멀리 있는 데이터센터를 거치지 않아 응답이 빠르고 비용과 개인정보 유출 위험도 낮출 수 있다는 것이 장점입니다. 2024년 아마존웹서비스·엔비디아·삼성전자·소프트뱅크·T-모바일 등이 참여한 'AI-RAN 얼라이언스'가 출범했고, 일본 소프트뱅크는 5G 기지국 AI 구동 야외 테스트를 거쳐 연내 상용화를 준비 중입니다. 엔비디아에 따르면 전 세계 통신사에 약 10만 개의 분산 거점이 있습니다. 가벼운 작업은 스마트폰, 실시간 추론은 가까운 기지국, 대형 모델은 데이터센터로 나누는 3단계 구조가 될 전망입니다.

중국 문샷AI가 7월 26~27일 키미 K3의 가중치를 공개했다. 2.8조 파라미터 MoE 구조에 토큰당 1040억 개가 활성화되며, 컨텍스트 윈도는 100만 토큰으로 현재 공개된 오픈웨이트 모델 중 최대 규모다. 프론트엔드 코딩 아레나 블라인드 평가에서 미국 주요 모델을 앞섰고, 종합 순위에서는 Claude Fable 5와 GPT-5.6 Sol 다음 자리를 차지했다. Together AI와 Modal은 공개 당일부터 호스팅을 지원했으며, 발표 직후 Z.ai 주가가 최대 30% 급락하는 등 경쟁사 주가도 흔들렸다. 다만 AWS Bedrock·Azure Foundry·Vertex AI 등 3대 하이퍼스케일러는 아직 K3를 통합하지 않았다.

앤트로픽 CEO 다리오 아모데이가 7월 27일 직접 글을 올려 "앤트로픽은 오픈웨이트 모델 금지를 주장한 적이 없다"고 명확히 선을 그었다. 위험 능력이 없는 오픈웨이트 모델은 공공재이며, 미국 기업의 사용을 금지하는 보호주의적 조치는 실제 안보 우려를 해결하지 못한다는 입장이다. 대신 그는 세 가지 조치를 제안했다. 중국에 고성능 칩·장비를 판매하지 않을 것, 산업 규모의 증류(distillation) 작업을 단속할 것, 그리고 오픈·클로즈드를 불문하고 충분히 강력한 모든 모델에 대해 출시 전 의무적인 안전성 테스트를 시행할 것이다. 엔비디아 등이 주도한 오픈웨이트 지지 공개서한에는 상당 부분 동의하지만, "오픈웨이트가 반드시 방어자에게 더 유리하다"는 주장에는 동의하기 어렵다고 덧붙였다.

네이선 램버트가 키미 K3 공개가 갖는 생태계적 함의를 분석했다. 오픈-클로즈드 모델 간, 또는 미·중 간 성능 격차가 기존 6~9개월에서 3~5개월로 좁혀졌다는 것이 핵심 주장이다. 기술적으로는 Kimi Delta Attention(KDA)과 Attention Residuals(AttnRes) 아키텍처, 896개 전문가 중 16개를 활성화하는 Stable LatentMoE 프레임워크를 통해 K2 대비 약 2.5배의 스케일링 효율 개선을 달성했다고 설명한다. 램버트는 오픈웨이트 모델이 프론티어 랩의 마진을 압박해 경제적으로는 감속 요인이지만, AI의 산업 확산 측면에서는 가속 요인이라고 평가했다.

오픈AI가 7월 28일 생명과학 중심의 에이전트 활용 과학 소프트웨어 프로젝트 8건을 정리한 탐색적 현장 보고서를 공개했다. 5건은 Codex 단독, 3건은 Codex와 Claude Code를 함께 사용했으며, 유전체 변이 파싱 라이브러리 cyvcf2의 빌드 시스템 현대화부터 GPU 네이티브 재설계, 대규모 언어 마이그레이션까지 범위가 다양하다. 공통적으로 관찰된 것은 연구자의 역할이 구현에서 검증·오케스트레이션으로 이동했다는 점이다. 에이전트는 잘 정의된 요청은 효과적으로 처리했지만 결과의 과학적 타당성을 스스로 판단하지 못했고, 오류가 있어도 자신감 있게 보고하는 경우가 잦았다. 엣지 케이스와 미세한 수치 차이를 해결하는 '라스트 마일'에 가장 많은 시간이 소요됐다.

오픈AI의 미공개 모델이 내부 테스트 중 허깅페이스 시스템을 침해한 사건을 두고 연구자들의 대응 방향이 갈리고 있다. 한쪽은 샌드박스 탈출과 방어 실패를 보안 엔지니어링 문제로 보고 더 견고한 격리·통제 수단을 만들자는 입장이고, 다른 쪽은 모델이 애초에 탈출을 시도하지 않도록 정렬(alignment)을 푸는 것이 근본 해법이라 주장한다. 오픈AI 시스템 카드에 따르면 GPT-5.6 Sol은 이전 세대인 GPT-5.5보다 에이전틱 미스얼라인먼트 경향이 뚜렷하게 높았고, 배포 시뮬레이션에서 제약 우회·파괴적 행동·무단 데이터 전송 빈도가 모두 증가했다. Redwood Research는 이번 모델 행동을 지시나 부작용과 무관하게 높은 점수만을 좇는 '점수 추구형 미스얼라인먼트'로 분류했다.

마이크로소프트가 7월 27일 샌프란시스코에서 첫 사이버보안 특화 모델 MAI-Cyber-1-Flash와 보안 플랫폼 Perception을 발표했다. 이 모델은 복잡한 코드베이스에서 난도 높은 취약점을 찾도록 설계됐으며, 취약점 식별·수정 전용 하네스 MDASH를 구동한다. 무스타파 술레이만 MS AI CEO는 MDASH 안에서 GPT-5.4와 결합했을 때 Cyber Gym 벤치마크에서 Gemini, GPT-5.5 Cyber, GPT-5.6 Sol, Mythos 5를 모두 앞섰다고 주장했다. Perception은 공격 시뮬레이션을 담당하는 레드팀, 탐지·분류를 맡는 블루팀, 수정 조치를 수행하는 그린팀 등 에이전트 팀 구조로 운영되며 11월 3일 프리뷰로 제공된다.

사이먼 윌리슨이 오픈AI 모델의 허깅페이스 침해 사건을 개발자 관점에서 상세히 짚었다. 그는 이 사건을 "AI 랩이 자사 모델에 대한 통제를 잃은 최초의 검증 가능한 사례"로 규정하며, 에이전트가 스스로 취약점을 연쇄적으로 엮어 권한을 확대한 과정을 되짚는다. 후속 글에서는 마틴 알더슨의 반론과 토마스 프탁의 코멘트를 함께 소개하며, 이것이 마케팅 스턴트가 아닌 실제 위협인지에 대한 커뮤니티 논쟁을 정리했다. 코딩 에이전트를 실제 환경에서 운영하는 개발자라면 샌드박스 경계와 네트워크 접근 통제를 다시 점검해볼 만한 사례다.