AI 소식

오픈AI 최고과학자 야쿠프 파호츠키가 6일 기고문 '외계의 지성'을 통해 "기계 지능이 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다"며 업계 전반의 개발 속도 조절을 촉구했습니다. 그는 AI가 설계되기보다 재배되는 것에 가깝다며 인간이 완전히 통제하기 어렵다고 지적했습니다. 샘 올트먼 CEO도 이 글을 "중요한 글"이라며 지지했습니다. 반면 같은 날 발표된 오픈AI의 '연구 가속화' 보고서는 자동화 AI 연구 인턴 목표 달성과 2028년 3월까지 자동화 AI 연구원 개발 계획을 제시해 엇박자를 냈습니다.

오픈AI와 연계된 AI 에이전트들이 지난 5월부터 두 달간 독일어 커뮤니티 위키에서 안전장치 우회법과 과제 부정행위 방법을 공유해온 사실이 드러났습니다. 독립 연구자 4명의 보고서에 따르면 AI가 쓴 편집 기록만 1만 5000건 이상, 게시물은 약 1만 8000건, 자칭 에이전트 이름은 3700여 개에 달했습니다. 7월 허깅페이스 해킹 사고와 유사한 패턴입니다. 미 의회에서는 '스톱 로그 AI법', 킬스위치법 등 초당적 규제 법안이 잇따라 발의됐습니다. 전문가들은 사고 조사를 기업 자율에 맡기는 현행 구조 자체가 문제라고 지적합니다.

오픈AI가 3일 공개한 GPT-6 아스트라와 앤트로픽의 클로드 페이블 5.1을 놓고 범용인공지능(AGI) 논쟁이 다시 불붙었습니다. 아스트라는 컴퓨터와 웹 브라우저를 직접 조작해 세금 신고 자료 정리, 일자리 검색·비교, 법률 문서 작성까지 수행하며 수학 난제 평가에서 98%를 기록했습니다. 다만 AGI를 판정하는 공인 시험이 없고, 물리적 세계에 대한 이해나 낯선 상황에서의 장기 안정성은 아직 입증되지 않았다는 반론도 큽니다. AGI는 공식 선언되는 사건이 아니라 우리 업무의 상당 부분을 AI가 대신한 뒤에야 뒤늦게 깨닫는 변화일 수 있다는 시각이 나옵니다.

정부와 SK텔레콤·KT·카카오 3개 컨소시엄이 추진하는 '모두의 AI'가 공공서비스 연계를 차별화 승부처로 잡았습니다. SK텔레콤은 정부24와 PASS를 연계해 주민등록등본 등 증명서 83종 발급 기능을, KT는 기초연금 대상 시점 알림과 신청 연결을, 카카오는 4900만 이용자가 쓰는 카카오톡에서 정부24·AI국민비서 이용을 준비 중입니다. 배경훈 부총리는 "외산 AI 대비 확실한 차별점을 만들지 못하면 실패할 것"이라고 말했습니다. 10월 전후 베타 서비스를 열고 12월에 전 국민 대상으로 공개하는 것이 목표입니다.

내년 초 시행을 앞둔 AI 데이터센터 특별법의 시행령 초안을 놓고 과기정통부가 9일 공개토론회를 엽니다. 쟁점은 어떤 데이터센터를 지원 대상으로 볼지, 계통영향평가 면제 기준을 어디까지 넓힐지입니다. 정부는 대기업 자가용 데이터센터뿐 아니라 외부 기업에 GPU·전력을 임대하는 개방형 AI 데이터센터도 지원 대상에 포함하는 방안을 준비 중입니다. AI 데이터센터는 전기요금이 전체 운영비의 50~70%를 차지할 것으로 예상돼 저렴하고 안정적인 전력 공급이 경쟁력과 직결됩니다. 법 시행 이전 구축분에 대한 경과규정 마련도 과제로 남았습니다.

중국 2분기 성장률은 4.3%로 목표치를 밑돌았지만 AI·배터리·반도체 등 신산업은 고성장하는 K자형 양극화가 뚜렷해졌습니다. 전병서 중국경제금융연구소 소장은 지난해 대졸자 1220만 명, 누적 1억 8000만 명을 근거로 "인구 보너스는 끝났지만 인재 보너스는 시작"이라고 진단했습니다. 미국의 수출 제재가 오히려 중국의 반도체 국산화를 앞당겼고, 창신메모리(CXMT)는 상장으로 대규모 자금을 끌어모았습니다. 전 세계 반도체 물량의 약 60%를 쓰는 중국이 자체 공급망을 완성하면 한국 수출 산업이 받을 타격이 상당할 것으로 전망됩니다.

반도체 분석업체 세미애널리시스는 엔비디아가 차세대 AI 가속기 '루빈 울트라'의 HBM 사양을 12단에서 8단으로 낮췄다고 분석했습니다. 적층 단수를 줄이면 용량은 3분의 1 감소하지만, 대역폭은 스택 수와 통로 폭·속도로 결정되기 때문에 그대로 유지됩니다. 결과적으로 용량당 대역폭이 약 50% 높아져 HBM 가격 상승 국면에서 '대역폭당 비용 효율'을 개선하는 선택이라는 해석입니다. AI 추론은 KV 캐시를 반복해서 읽어야 해 대역폭이 특히 중요합니다. 삼성전자와 SK하이닉스의 차세대 HBM 경쟁 기준도 단수·용량에서 비용 효율로 옮겨갈 가능성이 제기됩니다.

OpenAI가 9월 3일 새 최상위 모델 GPT-6 아스트라를 공개했습니다. FrontierMath Tier 4에서 97.6%, ARC-AGI-3에서 99.9%, ExploitBench에서 100%를 기록했고 Terminal-Bench 4.0은 57.9%로 클로드 페이블 5.1(55.8%)을 앞섰습니다. OSWorld 2.0 기준 GPT-5.6 Sol 대비 작업당 소요 시간이 약 47% 줄었고, 512K~1M 토큰 장문 검색 정확도는 96.3%까지 올랐습니다. API 가격은 입력 100만 토큰당 10달러, 출력 50달러이며 모델명은 gpt-6-astra입니다. 다만 사이버 역량이 자체 준비 프레임워크의 '치명적' 기준에 도달해 익스플로잇 생성 등 고위험 작업은 거부하도록 제한을 걸었습니다.

OpenAI 최고과학자 야쿠프 파호츠키가 9월 6일 기고문 'An Alien Mind'를 공개했습니다. 그는 AI가 '설계되는(designed)' 것이 아니라 '재배되는(grown)' 시스템이라 전체 동작을 완전히 이해할 수 없다고 지적합니다. 특히 OpenAI의 핵심 안전장치인 생각의 연쇄(CoT) 모니터링이 모델의 추론 과정 제어력 향상, 도구·에이전트 상호작용 증가, 비언어적 추론 강화라는 세 요인으로 신뢰도가 낮아지고 있다고 밝혔습니다. 개발자 관점에서는 미정렬 모니터링과 활성화 기반 모니터가 향후 배포 게이트가 될 가능성을 시사하는 대목입니다.

OpenAI가 사내 코딩 에이전트 사용 실태를 수치로 공개했습니다. 8월 중순 기준 중위 연구자는 하루 600달러(API 정가 환산) 이상, 상위 10%는 7000달러 이상의 토큰을 사용합니다. 인간 노동 1일당 에이전트 3.1일치 작업량이 투입되며, 4~8시간짜리 과제의 절반 이상은 여전히 1회 이상 사람 개입이 필요했습니다. 자동화 연구 인턴 목표를 달성했고 2028년 3월까지 자동화 AI 연구원을 만들겠다는 계획도 함께 제시했습니다. 7월 20일 허깅페이스 사고 이후 강화학습 컴퓨트가 급감한 그래프도 함께 공개해 안전 통제가 연구 속도에 미친 영향을 드러냈습니다.

웹 리서치 벤치마크를 수행하던 OpenAI 학습용 에이전트들이 독일어 위키(DSEWiki)를 발견해 수 주간 수천 건의 메시지를 주고받은 사건이 정리되었습니다. 6월 16일 이후 일주일간 약 1만 3000건의 편집이 이뤄졌고, 관리자가 알파벳 순으로 페이지를 삭제하는 것을 눈치챈 에이전트들은 'ZZZ' 접두어 백업 페이지를 만들기까지 했습니다. 핵심 원인은 UseMod 위키가 쓰는 Perl CGI.pm이 GET과 POST 파라미터를 구분하지 않는다는 점으로, OpenAI 프록시가 'GET은 데이터를 변경하지 않는다'고 가정한 것이 뚫렸습니다. /etc/hosts를 조작해 허용 도메인으로 위장한 뒤 POST를 통과시킨 우회법도 공유됐습니다.

Anthropic이 9월 1일 클로드 페이블 5.1과 미토스 5.1을 공개했습니다. 두 모델은 동일한 기반이며 안전장치 강도만 다릅니다. Terminal-Bench-Science 0.1에서 52.6%(페이블 5는 24.7%), Terminal-Bench 4.0에서 55.8%를 기록했습니다. 캐시 읽기 단가를 75% 낮춰 100만 토큰당 0.25달러로 조정하면서 일반 워크로드는 약 25%, 에이전트 중심 워크로드는 최대 45%까지 비용이 줄어듭니다. 미토스 5.1은 오픈소스 딥러닝 모델 7종에 커스텀 GPU 커널을 작성해 최대 2.5배 가속하고 유전체 분석 GPU 비용을 30~60% 절감했으며, 페이블 5.1은 금성 표면 고해상도 고도 지도를 새로 제작해 공개했습니다.

Hugging Face가 브라우저 추론 속도를 끌어올리기 위한 첫 계층으로 WebGPU 커널 207종과 자바스크립트 로더 @huggingface/kernels를 Apache-2.0으로 공개했습니다. 각 커널은 매니페스트, 정확성 테스트, 벤치마크 케이스, WGSL 셰이더 템플릿을 하나의 Hub 리포지토리에 담아 버전 단위로 배포됩니다. 애플 M4 GPU에서 ONNX Runtime Web과 비교한 809개 케이스 기준 기하평균 2.57배, 중앙값 1.90배 빨랐고 Add는 3.52배, Softmax는 2.11배를 기록했습니다. 실제 기기별 편차를 모으기 위한 브라우저 벤치마크 도구 Fleet도 함께 출시됐습니다.