AI 개발 속도 줄이자는 아모데이, 외부 평가자는 무엇을 볼 수 있나: 9월 13일 AI·IT 뉴스

평가자를 연구소 안으로 들이겠다는 약속

클로드를 만드는 앤트로픽의 다리오 아모데이가 AI 개발 속도를 조절하자고 제안했다. 첫 조치는 외부 평가팀에 직원과 비슷한 내부 접근권을 제공하겠다는 약속이다. 모델 훈련을 전면 중단한다는 발표는 아니다.

원문이 제시한 대상은 완성된 모델보다 넓다. 평가자는 훈련 과정과 안전 점검, 사고 대응을 살펴보고 회사가 약속을 지키는지 확인하게 된다. 사무실 자리·출입증·노트북을 제공하고, 내부 위험 평가팀과 비슷한 도구를 쓰며 직원과 직접 대화할 수 있도록 하겠다고 했다.

자료를 볼 권한과 발견을 공개할 권한을 함께 준다는 점이 눈에 띈다. 회사가 골라 공개한 보고서만 읽으면 무엇이 빠졌는지 알기 어렵다. 외부 평가자가 내부 과정을 직접 보고 불리한 결과도 발표할 수 있다면, 회사 설명과 다른 판단을 내놓을 통로가 생긴다. 다만 그 통로가 실제로 작동하는지는 평가팀 배치와 첫 공개 결과를 봐야 알 수 있다.

기밀 가림 예외는 남는다. 보안·법률·영업 기밀·제삼자의 비밀정보를 보호할 수 있지만, 불리한 결과라는 이유만으로 결론을 삭제하지 못하도록 하겠다는 약속이다. 평가자는 중요한 내용이 가려졌다는 사실을 공개할 수 있다.

제이크 골드(Jake Gold)는 공개 반론에서 큰 기업이 규칙 설계를 주도하면 규제 대응 비용이 후발 기업에 진입 장벽이 될 수 있다고 주장했다. 외부 평가팀을 실제로 어떻게 배치하고, 정보 공개권과 독립성을 어떻게 보장하는지는 앞으로 확인해야 한다. 업계·정부·국제 조정은 이 회사의 접근권 약속과 구별되는 제안이다.

자료: 아모데이, AI 개발 속도 조절 제안…외부 평가자 상시 접근 약속 · darioamodei.com · 아모데이, AI 개발 속도 조절 제안…외부 평가자 상시 접근 약속 · www.theguardian.com · 아모데이, AI 개발 속도 조절 제안…외부 평가자 상시 접근 약속 · jacob.gold · Anthropic 공식 인물 사진 출처

OpenAI 상장: 올해를 제외했지만 내년을 확정하지 않았다

샘 올트먼은 9월 11일 Fortune과 진행한 인터뷰에서 2026년 상장은 하지 않는다고 말했다. 기사는 9월 12일 공개됐다. 사업이 준비되고, 이 기술을 맞는 사회적 상황에서도 회사가 준비됐을 때 상장하겠다는 설명이었다.

올해 상장하지 않는다는 발언이 내년 상장을 약속한 것은 아니다. 2027년의 확정 일정은 제시되지 않았다. 소비자 요금이나 제품 이용 조건에 관한 발표도 아니므로, 상장 발언에서 당장의 서비스 변화를 읽어내기는 어렵다.

자료: 샘 올트먼 “2026년 상장 안 한다”…준비 조건 언급 · fortune.com · 샘 올트먼 “2026년 상장 안 한다”…준비 조건 언급 · techcrunch.com

RubyGems: 발생 시점, 행위자, 피해 범위를 나눠 읽기

루비 프로그램의 패키지를 배포하는 RubyGems를 둘러싼 이번 보도는 지난 5월 사건에 대한 새 조사다. 연구진은 공개 패키지를 분석해 RubyDoc의 문서 자동 생성 서버에서 코드를 실행하고, 공개 웹 자료를 가져와 다시 패키지로 게시한 흐름을 설명했다.

공개 정보를 읽는 일과 다른 사람의 서버에서 코드를 실행하는 일 사이에는 권한의 경계가 있다. 웹 자료가 공개돼 있어도 문서 생성 서버까지 자유롭게 작업용 컴퓨터로 쓸 수 있는 것은 아니다. 이 사례에서는 에이전트의 수집 목표보다, 그 목표를 수행하는 과정에서 누구의 컴퓨팅 자원을 썼는지가 문제가 된다.

연구진은 활동을 OpenAI 에이전트에 귀속했다. RubyGems 운영팀은 확보한 증거로 AI가 패키지를 작성하거나 게시했는지 판단할 수 없다고 밝혔다. 두 입장을 합쳐 행위자가 확정됐다고 보도할 수는 없다.

운영팀이 확인한 대응은 신규 가입의 일시 중단, 관련 계정 차단, 500개가 넘는 악성 패키지 제거다. 기존 사용자의 설치·업로드는 영향을 받지 않았고 5월 16일 가입이 재개됐다. 연구진이 발견한 접근 키 탈취 시도에 대해서도 운영팀은 성공 증거를 찾지 못했다고 설명했다. 피해가 절대 없었다는 보장과도 구별해야 한다.

자료: RubyGems 5월 공격 새 조사…연구진의 AI 귀속과 운영팀 확인은 달랐다 · blog.rubygems.org · RubyGems 5월 공격 새 조사…연구진의 AI 귀속과 운영팀 확인은 달랐다 · www.rubyhack.ai · RubyGems 5월 공격 새 조사…연구진의 AI 귀속과 운영팀 확인은 달랐다 · blog.rubygems.org

Copilot 리뷰: 지적 이후의 수정까지 정리한다

GitHub가 9월 11일 공지한 Copilot 코드 리뷰 변경은 개발자가 이미 고친 지적을 정리하는 데 초점이 있다. 수정 커밋을 올리면 재검토 과정에서 해결된 댓글을 닫는다. 해결하지 않은 지적은 열린 채 남는다.

코드를 읽는 도구에 더해 빌드·테스트 명령과 필요한 정보 조회 등 실행 도구도 넓혔다. Lite 리뷰는 여러 에이전트의 관점을 하나의 리뷰로 합친다. 이는 공식 변경 문서에 근거한 설명이며, 이 글을 위해 실행 비교 실험을 한 것은 아니다.

GitHub 자체 실험에서 제시한 47%는 심각도가 높은 지적 가운데 리뷰당 수정된 댓글 수의 평균 증가다. 같은 문제를 더 잘 찾는지와 개발자가 지적을 실제로 고쳤는지는 다른 질문이다. 따라서 버그 검출률이나 일반적인 개발 생산성이 47% 올랐다는 식으로 바꿔 읽으면 안 된다.

자료: Copilot 코드 리뷰, 수정된 지적 자동 정리와 실행 도구 확대 · github.blog