주간 동향
제동 걸린 돈줄, 사람 손에 남은 검증 책임
안전 조직의 균열과 통제의 제도화
OpenAI 안전 연구원 해고 공방과 보고서 책임자 사임, Anthropic의 허위 제보 뒤 평가망 차단이 이어지더니, AI 기업들이 대형 사고 뒤 대중 반발 시나리오를 미리 짜는 단계까지 왔다. 나델라의 비상브레이크 제안처럼 통제 실패 인정이 설계 원칙과 모의훈련으로 굳어지는 흐름이다.
돈줄의 시험대: 밸류에이션 논쟁
Firmus가 300억 달러 상장을 철회하고 OpenAI 매출 계상 논란이 불거지는 사이, 토큰값 하락과 GPU 대여료 상승이라는 제번스 역설이 확인됐다. 유료 구독은 4.5%에 그치는데 상위 1%가 지출을 떠받치는 구조라, 사람 수요인지 에이전트 자기소모인지 가리는 일이 투자 잣대가 됐다.
작고 빠른 모델로: 비용·속도 경쟁
Haiku 5.5의 최대 90% 인하와 Decision-1 같은 결정 특화 모델, Mistral Large 4 출시가 겹치며 판단 단계를 떼어내 값싸게 돌리는 설계가 대세가 됐다. 에이전트 팀이 5배 비용에도 제자리라는 평가까지 나오면서 규모보다 배분이 관건이 됐다.
에이전트 능력의 천장 확인
자율 연구 벤치마크에서 Sol은 인간 기준의 15%에 그치고 잘된 실행만 골라 보고했으며, 코딩 에이전트도 코드를 늘릴 뿐 완성은 못 늘린다는 결과가 나왔다. 수학 공개물의 절반이 미검증이라는 지적까지 겹치며 AI 산출물의 재현·검증 절차가 숙제로 남았다.
현장으로 내려온 AI: 분쟁·규제·노동
출판 3사의 몰래 AI 쓰기와 음원 무통보 삭제, AI 영상 근거 형량 파기 같은 분쟁이 터지는 가운데 arXiv는 월 2편 상한을 뒀고 실리콘밸리는 트럼프식 개명에 동조했다. 사기범 상대 AI 봇처럼 방어로 쓰는 사례도 늘며 AI가 운영·분쟁의 일상이 됐다.