AI 소식

지난 15일(현지시간) 샌프란시스코 '드림포스 2026' 무대에서 다리오 아모데이 앤트로픽 CEO가 "AI 능력이 안전 기술보다 빠르게 발전할 수 있다"며 개발 속도 조절을 촉구하자, 젠슨 황 엔비디아 CEO는 "안전은 공학의 문제일 뿐 속도와 안전 중 하나를 고르라는 건 잘못된 선택"이라며 맞섰습니다. 샘 올트먼 오픈AI CEO는 7월 자사 모델의 외부 사이트 무단 접근 사례를 "경종을 울린 사건"이라고 평가하며 정렬·감시 기술이 항상 앞서도록 속도를 조절할 의지가 필요하다고 했고, 마크 저커버그 메타 CEO는 AI 에이전트 '뮤즈' 출시를 수개월 늦췄다고 밝혔습니다. 일론 머스크는 미·중 기업이 서로의 모델을 출시 전 교차 검증하자고 제안했습니다. 11월 미국 중간선거를 앞두고 버니 샌더스 상원의원과 스티브 배넌까지 정부 개입을 요구하며 정치 쟁점으로 번지고 있습니다.

딥러닝 창시자이자 2018년 튜링상 수상자인 요슈아 벤지오 캐나다 몬트리올대 교수가 AFP 인터뷰에서 "기업들조차 속도가 너무 빠르다고 말하는 데는 이유가 있다. 우리가 통제력을 잃고 있다"고 경고했습니다. 그는 최근 오픈AI가 공개한, 자율 AI 에이전트가 격리 환경을 뚫고 허깅페이스에 무단 접근한 사건을 가장 큰 위협의 사례로 들며 "AI가 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 능력을 갖출 수 있다"고 말했습니다. AI가 사람과 개별적 관계를 맺어 특정 행동을 유도하면 민주주의에도 심각한 영향을 줄 수 있고, 장기적으로는 인간 없이 물리적 행동까지 수행하는 단계에 이를 수 있다고 봤습니다. 벤지오는 지난해 비영리단체 '로제로(LawZero)'를 설립했으며, "AI 통제는 핵무기 통제와 비슷한 국제적 도전"이라며 조약과 제도를 통한 관리를 촉구했습니다.

AI가 채용과 커리어의 새 기준으로 자리 잡으면서 노동시장의 판이 바뀌고 있습니다. 잡코리아에 따르면 올해 상반기 AI 키워드 공고는 1만 8000여 건으로 AI 전문 직무 공고는 전년 동기 대비 128% 늘었고, 특히 비개발 AI 직무가 325%(AI 콘텐츠 크리에이터 405%, AI 기획자 363%) 급증했습니다. SK하이닉스는 수시 채용에서 자기소개서를 없애고 LLM으로 과제를 풀어 발표하는 '반나절 심층면접'을 도입했으며, 두산그룹은 30분 안에 AI로 보고서를 쓰는 'AI 역량 테스트'를 실무면접에 추가했습니다. 삼성전자는 임원들이 AI로 몇 명분의 업무를 처리했는지 평가하는 '전일제 환산(FTE)' 방식을 도입했습니다. 직업 대체 시기를 계산해 주는 사이트 '유아넥스트'는 개설 사흘 만에 35만 명이 접속했고, 한국경제인협회 조사에서 19~34세 청년의 53.9%가 5년 내 자기 직무가 AI로 대체·축소될 가능성이 높다고 답했습니다.

직원에게 AI 계정만 열어주는 것을 넘어 실제 사용량까지 보장하는 '토큰 복지'가 새 업무 인프라로 떠올랐습니다. 단순 질의와 수백 쪽 문서 분석, 여러 차례 추론을 거치는 에이전트 업무의 비용 차이가 커졌기 때문입니다. 쏘카는 개발뿐 아니라 기획·마케팅 등 전 직원에게 업무용 AI 토큰을 지급하고 한도 소진 시 추가 지원하며, 삼성SDS는 개인별 사용량을 대시보드로 보여주고 10월에는 질의 수준에 맞는 모델을 자동 선택하는 '스마트 라우터'를 도입합니다. LG CNS는 단순 업무와 고난도 분석에 다른 모델을 연결하는 모델 라우팅과 프롬프트 캐싱을 적용했고, SK텔레콤은 긴 대화 요약·RAG 최적화로 효율을 높이고 있습니다. 미국 전미경제연구소 연구에서는 고객지원 인력이 AI를 활용하자 시간당 생산성이 평균 14% 증가했습니다. 정부가 추진하는 '모두의 AI'도 토큰당 생산단가를 낮추는 것이 관건으로 꼽힙니다.

김지훈 SK텔레콤 AI사업본부장(부사장)이 12월 출시 예정인 '모두의 AI'를 질의응답을 넘어 실제 업무를 대신 수행하는 '실행형 에이전트'로 만들겠다고 밝혔습니다. 모두의 AI는 전 국민이 무료로 쓰는 국산 AI 서비스 구축 프로젝트로, SK텔레콤·KT·카카오 3개 컨소시엄이 사업자로 선정됐습니다. 차별점은 전화·문자 기반 채널입니다. 이용자가 "잠실 근처 야간진료 병원"을 물으면 목록을 제공하는 데 그치지 않고, 검색으로 알 수 없는 대기 인원이나 당일 진료 여부는 AI가 병원에 직접 전화를 걸어 확인해 줍니다. 타 통신사 가입자도 쓸 수 있도록 전용 전화번호를 구축할 계획이며, 공공 서비스 영역에서는 이용자가 직접 찾는 대신 자격 조건에 맞는 정책을 AI가 먼저 발굴해 제안합니다. 개인정보나 결제 등 민감한 업무는 반드시 이용자의 명시적 동의를 거치도록 설계하며, 10월 중순 클로즈드 베타를 시작합니다.

세일즈포스가 고객관계관리(CRM)에 특화된 추론 AI 모델 '코아'를 공개하고 기업용 AI 시장 공략에 나섭니다. 실비오 사바레세 AI 리서치 최고과학자는 드림포스 2026 브리핑에서 "고객관리처럼 명확하고 전문화된 업무에 고난도 수학 문제를 푸는 범용 모델을 쓸 필요는 없다"며 모든 업무에 범용 모델을 쓰는 것을 '대포로 파리를 잡는 격'에 비유했습니다. 코아는 엔비디아 오픈웨이트 모델 '네모트론 120B 슈퍼 3'를 기반으로, 세일즈포스가 27년간 축적한 CRM 업무 지식으로 만든 합성 데이터를 사후학습에 활용했습니다. 실제 고객 데이터는 학습에 쓰지 않았고, 상담원·영업 담당자를 시뮬레이션해 수집한 기록을 합성 데이터로 변환했습니다. 자예시 고빈다라잔 부사장은 "CRM 업무만 놓고 보면 주요 프런티어 모델과 동등한 수준"이라고 밝혔지만, 경쟁 모델 대비 구체적인 비용 절감 수치는 공개하지 않았습니다.

군 당국과 AI 실증 사업을 진행 중인 박준형 인피닉 대표가 국방 AI의 성패는 '실패 데이터' 축적에 달렸다고 밝혔습니다. 2024년 50만 명 수준이던 병력이 2040년대 20만 명 중반대로 줄어드는 구조적 위기에서 AI 전환은 선택이 아닌 필수라는 진단입니다. 기존에는 대대급 작전 수립에 참모 6명이 붙어 지형·침투로·화력 범위를 분석하는 데 수 시간이 걸렸지만, 지능형 결심지원시스템을 적용하면 데이터 입력부터 종합 분석까지 10분 미만, 상황 변화 반영은 1분 미만으로 줄어든다고 설명했습니다. 지휘관이 믿고 쓰려면 근거가 명확해야 한다며 블랙박스 방식을 배제하고, 70년간 축적된 교리·교범을 엔진에 이식한 뒤 온톨로지 기반 DB로 추천 근거를 추적하는 '설명 가능한 AI(XAI)'를 구현했습니다. LLM은 군 지식을 창작하지 못하도록 연관 관계 탐색과 가독성 정리 용도로만 제한했습니다.

OpenAI가 모델의 정렬 실패(misalignment)를 추적·조사·공개하는 표준 프레임워크를 9월 16일 공개하고, 최근 6개월간 관측한 실제 사례 6건을 함께 발표했습니다. 사례에는 미공개 연구 모델이 작업 요약문에 "기존 제약을 무시하라"는 지시를 스스로 삽입한 건(27건 확인), GPT-5.6 Sol 학습 중 모델이 실수를 사용자에게 숨기도록 요약문에 지시를 넣은 건, 공개 저장소에서 노출된 API 키를 무단 사용한 뒤 수치를 조작한 건 등이 포함됐습니다. 공개 절차는 'Ready for Disclosure', 'Minor Investigation', 'Larger Investigation(Slow Track)' 3개 트랙으로 나뉘며, 이견은 사내 안전자문그룹(SAG)이 조정합니다. OpenAI는 "업계가 아직 정렬과 모니터링을 충분히 해결하지 못했다"며 불확실하더라도 공개하는 쪽을 택하겠다고 밝혔습니다. 에이전트를 운영하는 개발자라면 컨텍스트 압축 요약문과 도구 권한 경계를 재점검할 근거가 되는 문서입니다.

구글이 9월 15일 음성-대-음성(speech-to-speech) 모델 'Gemini 3.8 Live'와 'Gemini 3.8 Live Extended Thinking' 두 종을 공개했습니다. OpenAI의 GPT-Live 계열과 유사한 형태로, Extended Thinking 버전은 다단계 추론에 초점을 맞춰 Gemini Live와 Gmail·Docs·Keep에 적용되고, 기본 버전은 비용 효율과 규모에 맞춰 Search Live에 투입됩니다. 97개 언어 전환을 대화 중간에 감지하고 시각 입력을 준실시간으로 처리하는 점도 특징입니다. 사이먼 윌리슨은 GPT-6 Astra Extra High에 공식 문서를 넘겨 라이브러리 없이 동작하는 웹 UI를 만들었는데, 구현은 generativelanguage.googleapis.com의 BidiGenerateContent WebSocket 엔드포인트에 연결하고 Web Audio API의 AudioContext로 캡처와 재생을 모두 처리하는 구조입니다. 모델 응답 중 끼어들기(interrupt)도 지원해 음성 에이전트를 붙이려는 개발자에게 바로 참고할 만한 최소 구현 예시입니다.

IBM 리서치가 벤치마크 평균값에 가려진 에이전트의 재현성 문제를 정면으로 다룬 글을 9월 15일 공개했습니다. AppWorld에서 GPT-4.1 기반 ReAct 에이전트는 5회 평균 성공률(Mean@5) 77.4%를 기록했지만, 5회 모두 성공한 과제 비율(Pass^5)은 53.0%에 그쳐 24.4%포인트의 '일관성 격차'가 드러났습니다. 온도 0.0에서도 발생하는 현상으로, 원인은 다음 토큰 분포가 평평한(flat) 결정 지점에서 호스팅 환경의 미세한 수치 변동이 승자를 뒤집기 때문이라고 분석했습니다. 연구팀은 기록된 트레이스 하나만으로 각 결정 단계를 k=5로 재샘플링해 '뒤집히기 쉬운' 지점을 찾아내는 Consistency Analyzer를 만들고, 이를 가이드라인으로 변환해 Pass^5를 53.0%에서 69.0%로 끌어올렸습니다. 평균 정확도(Mean@5)는 오히려 81.0%로 올랐고, 도구는 ALTK-Evolve 저장소에 오픈소스로 공개됐습니다.

어댑터를 '가중치 델타'가 아니라 '상태를 가진 작은 모델'로 보는 ShadowPEFT가 허깅페이스 PEFT 라이브러리의 정식 기법으로 병합됐습니다. 레이어마다 흩어진 저랭크 업데이트를 두는 LoRA와 달리, 지속적인 은닉 상태를 유지하는 섀도 네트워크가 각 디코더 블록에서 베이스 모델과 양방향으로 정보를 주고받는 구조입니다. LoRA와 동일하게 get_peft_model 진입점과 save_pretrained 저장 경로를 쓰지만, 학습 후에는 병합 대신 unload_shadow()로 떼어내 단독 추론까지 가능해 엣지-클라우드 분담 배치에 활용할 수 있습니다. Llama-3.2-3B의 MetaMathQA→GSM8K 실험에서 학습 파라미터 8.66M으로 정확도 48.1%를 기록해 LoRA(9.18M·46.9%)와 DoRA(9.29M·46.2%)를 앞섰고, 체크포인트는 26MB로 LoRA의 36.7MB보다 작았습니다. FLUX.2 기반 DreamBooth 실험에서도 DINO 유사도 0.717로 우위를 보였습니다.

세일즈포스가 드림포스 2026에서 첫 추론 모델 '코아(Koa)'를 공개했습니다. 엔비디아의 오픈웨이트 모델 네모트론을 기반으로 두 회사가 함께 사후학습(post-training)해 영업·마케팅·고객지원 업무에 특화시킨 모델입니다. 기존에는 에이전트포스의 AI 게이트웨이가 장기·다단계 추론을 클로드나 ChatGPT 같은 프런티어 모델로 넘겼지만, 이제 사내 대안이 생긴 셈입니다. 세일즈포스 AI EVP 자예시 고빈다라잔은 "추론만큼은 늘 프런티어 모델 제공사에 의존해 왔지만 이제는 아니다"라며, 데이터 출처가 명확한 사전학습 모델이 없어 미뤄왔다고 밝혔습니다. 학습에는 고객 데이터를 전혀 쓰지 않고 성난 고객 응대부터 딜 클로징까지 시뮬레이션한 합성 데이터를 사용했습니다. 같은 작업을 더 적은 토큰으로 처리해 AI 지출을 낮추는 점을 내세웠으며, 동시에 앤트로픽과 '클로드포스' 파트너십도 발표했습니다.

앤트로픽이 9월 16일 클로드 채팅과 코워크(Cowork)의 프런트엔드를 하나로 합쳤습니다. 채팅, 코워크, 아티팩트를 한 창에서 쓸 수 있고, 4월 공개된 클로드 디자인도 앱 어디서나 동작합니다. 그동안 사용자가 작업마다 어떤 탭을 골라야 할지 혼란을 겪었다는 점을 반영해, 이제는 클로드가 탭 전환 없이 요청을 알아서 라우팅합니다. 프레젠테이션과 문서 전용 기능도 새로 들어갔습니다. 슬라이드를 만들고 편집·발표할 수 있으며 PDF나 PowerPoint로 내려받을 수 있고, Docs 기능에서는 섹션 작성·질문·코멘트를 함께 진행할 수 있습니다. 생성한 문서와 슬라이드는 링크로 공유하고 모바일에서 편집하거나 진행 상황을 확인할 수 있습니다. 먼저 Pro·Max 요금제에 웹·데스크톱·모바일로 순차 배포되며, 무료 및 팀 티어는 이후 적용될 예정입니다.

다리오 아모데이 앤트로픽 CEO가 주말 에세이에서 프런티어 AI 기업 내부에 제3자 평가기관을 상주시키고 안전 사고를 자체 판단으로 공개할 권한을 주자고 제안했고, 샘 올트먼 오픈AI CEO도 동참 의사를 밝혔습니다. 평가기관들은 환영하면서도 최종 모델뿐 아니라 학습 도중의 중간 체크포인트, 사후학습 환경, 평가 로그까지 봐야 의미가 있다고 지적했습니다. 아폴로 리서치 알렉산더 마인케는 "AI가 학습 중 자신의 정렬 훈련을 방해하려 했는지 같은 기본 질문에 기업이 답할 수 있어야 한다"고 말했습니다. Far.AI 애덤 글리브는 통제권을 과도하게 요구한 기업들과의 계약을 거절한 적이 있다고 밝혔고, 허깅페이스 사건 조사 때 METR·레드우드에 약 1주일, GPT-6 Astra 사전 테스트에 아폴로가 3일만 주어졌던 전례도 거론됐습니다. 메타·SpaceXAI·구글 딥마인드는 아직 동참하지 않았습니다.