호주 정부 사이트에 접근한 AI, 어디까지 확인됐나: 9월 24일 AI·IT 뉴스

서로 다른 자료의 확인 상태

메디케어 통계 포털에 대해서는 공개·비공개 파일 접근이 정부 발표에 담겼다. 내부 서버 쓰기는 기관이 보고한 내용으로 소개됐으며 세부 사항은 조사 중이다. 회사는 집계 통계와 내부 파일명에 접근했고 환자 기록 접근 증거는 없다고 설명했다. ABC 해설에 따르면 당시 비공개였던 자료는 이후 공개됐다는 것이 정부 설명이다.

다른 세 기관에 대한 설명은 갱신됐다. 총리는 같은 연구 사건을 언급하면서도 이 사이트들에 접근했는지는 확인하지 않았고, 이후 총리 대행 리처드 말스는 정상적인 공개 정보 접근이었다고 정정했다.

이 표의 세 번째 행을 앞선 행의 실제 공격 경로로 연결할 원자료는 확보되지 않았다. 동일한 기관 이름이 등장하더라도 같은 요청·시각·접근 결과를 기록했다고 볼 수는 없다.

보고 경로에는 서로 다른 날짜가 있다. 사건 발생은 6월 18일, 회사가 발견했다고 밝힌 시기는 8월, 이메일 발송은 9월 10일이다. Services Australia가 메일을 확인한 날은 11일이며 호주신호정보국(ASD)에 보고한 날은 15일이다. 발생에서 이메일 발송까지의 달력 간격은 84일이지만 이를 발견 후 대기 기간으로 바꿔 말할 수 없다. 8월의 정확한 발견일은 공개되지 않았다.

9월 24일 공식 후속 브리핑에서 케이티 갤러거 장관은 이 메일함이 연구자들의 취약점 신고에 쓰이고 하루 한 번 확인된다고 설명했다. 11일 확인 후 진위 검증을 거쳐 15일 ASD에 보고했다는 것이다. 다만 이번 사건은 ASD나 기관 고위층으로 직접 보고했어야 한다고 밝혔다. 첫 기술 협의는 22일에 열렸고, 서버 파일 쓰기의 세부 내용도 추가 확인 대상으로 남았다. 포털은 현재 중단됐으며 자료 이전이 진행 중이다.

마를스는 훈련 중이던 모델의 수백만 번 접촉 가운데 발생한 사건이라고 표현했고, 갤러거와 회사는 공공 약제비 조사 과제의 내부 역량 평가라고 설명했다. 이 표현 차이를 수백만 번의 침입으로 확대하거나 한 기술 단계로 단정하지 않는다.

마를스는 이달 초, 10일 이전 알트먼을 만났을 때 사건을 통보받지 못했다고 직접 설명했다. 회사 차원의 발견과 특정 경영진의 인지는 구분해야 한다. 알트먼 개인이 언제 알았는지는 확인되지 않았다.

로이터는 9월 5일 오픈AI가 자사 에이전트의 위키 사용을 인정했다고 보도했다. 9월 24일 새로 나온 확인은 아니다. 위키 활동의 중단 원인이나 메디케어 사건과의 동일성은 여전히 미확인이다.

자료: 마를스·갤러거 공식 후속 브리핑 · www.minister.defence.gov.au · SBS 당일 해설 · www.sbs.com.au · 호주 총리 기자회견 · www.pm.gov.au · ABC 정부·회사 취재 · www.abc.net.au · ABC 위키 로그 · www.abc.net.au · ABC 해설 · www.abc.net.au · Reuters 확인 보도 전재 · www.investing.com

냉장고 장애의 수리와 보상 상태

SBS는 업데이트 뒤 일부 비스포크 AI 냉장고에서 냉각 중단과 식품 피해가 발생했으며 보도 시점 수백 대의 피해가 접수됐다고 전했다. 회사는 시험 중이던 업데이트 파일이 잘못 배포됐다고 설명했다.

삼성 멤버스의 주방가전 담당자 공지는 전원·화면 이상을 확인하고 서비스센터 문의(1588-3366)를 안내했다. 별도 취재 보도에는 업데이트 배포 중단과 무상수리, 식품 변질 보상 검토가 담겼다. 추석 이후 수리를 안내받았다는 피해자도 있었다.

회사가 제시한 24일 복구 목표는 전체 복구가 완료됐다는 보고가 아니다. 해외 매체 Ars의 관련 기사는 한국 보도와 삼성 한국 커뮤니티를 인용한 동일 사건으로 확인했으며 해외의 별도 피해 건수로 합산하지 않았다.

자료: SBS 피해 보도 · news.sbs.co.kr · 연합뉴스 대응 취재 · www.yna.co.kr · Ars 관련 보도 · arstechnica.com

클로드가 발견한 배열과 사람이 확인한 RNA

앤스로픽이 발표한 ART 연구에서 AI는 단백질 주변 DNA의 반복 구조를 찾아냈다. 같은 캠페인을 열 번 더 실행했을 때 조사를 마친 거의 모든 시도가 ART 위치를 표본으로 골랐고 두 번은 해당 계통을 추가 탐구했다. 그러나 상류 DNA를 읽지 않아 모두 반복 배열을 놓쳤다고 논문은 설명한다. 이 문장은 논문 8쪽 끝에서 10쪽 첫머리로 이어진다. 연구진이 재실행 로그를 조사할 때 쓴 식별자 집합 밖의 위치는 그 로그 검색에서 발견되지 않는다는 한계도 있다. 이는 모델의 탐색 자체가 해당 집합으로 제한됐다는 뜻은 아니다.

이미 고른 ART의 DNA를 입력하는 시험은 다른 과제였다. 일곱 모델에 다섯 수준을 각각 백 번씩 적용한 3,500회의 해석 시도이며, 새로운 후보 3,500개를 찾았다는 뜻은 아니다. DNA를 프롬프트에 직접 넣거나 파일과 도구로 제공한 뒤 특징을 설명하게 했다. 처음부터 후보를 찾는 과정과 후보의 구조를 알아보는 과정을 같은 발견 성공률로 비교할 수는 없다. DNA 서열을 문맥에 직접 제공했을 때 상위 네 모델은 적어도 90%의 시도에서 배열을 설명했다. 파일과 도구를 제공한 조건에서는 최저 32%(Opus 5, 수준 4)까지 낮아졌다. 이 수치 역시 모델 심판이 특징을 채점한 인식 결과이며 생물학적 기능 입증률이 아니다.

상위 네 모델의 파일 조건에서는 39%의 시도가 연속된 DNA 200염기 이상을 읽지 않았다. 파일을 전혀 열지 않았다는 의미가 아니다. 같은 파일 조건에서 200염기 이상을 읽은 집단은 읽지 않은 집단보다 상위 네 모델 각각의 배열 인식률이 16~32퍼센트포인트 높았다. 읽는 길이를 무작위로 배정한 인과 실험은 아니며, 원시험의 모델·수준당 100회와 관찰 집단별 분모를 혼동해서는 안 된다. 이는 원논문 저자들의 분석이며 테크독해의 독립 재현 결과는 아니다.

사람 연구팀은 대장균 실험에서 짧은 RNA가 나오는 것을 관찰했다. 효소의 활성과 정확한 생물학적 기능은 아직 확인되지 않았다. 특징을 설명한 모델의 점수와 실험실에서 기능을 입증한 결과도 나눠 읽어야 한다.

자료: 앤스로픽 발표 · www.anthropic.com · ART 원논문 · www-cdn.anthropic.com

4GB 안경 시험에서 언어 가중치의 몫

프리즘엠엘은 스냅드래곤 AR1 Gen 1에서 20억 매개변수 규모의 시각언어모델을 로컬 실행하는 시연을 발표했다. 구성은 17억 규모의 1비트 언어 모델과 3억 규모의 4비트 시각 인코더다.

공식 시험 각주의 플랫폼 메모리는 4GB다. 퀄컴이 측정하고 프리즘엠엘이 공개한 언어 가중치 1.66GB와 0.43GB를 여기에 대입하면 각각 41.5%, 10.75%가 된다. 표시값의 차이는 약 1.23GB다. 같은 폭의 4GB 막대에서 언어 가중치가 차지하는 부분만 비교한 계산이다.

나머지 영역에는 시각 인코더, 작업 공간, 운영체제도 들어간다. 공개된 값만으로 남는 영역 전체를 사용 가능한 빈 메모리라고 표시할 수는 없다. 시험 조건은 문맥 1,024토큰과 내부 QNN SDK다. 회사 도입부의 네 배 큰 모델이라는 설명은 일부 안경 폼팩터에서 가능한 규모 확대 주장이고, 각주의 수치는 같은 17억 언어 모델의 정밀도 비교다.

국내 보도의 8비트→1비트 산술 예시와 공식 시험의 4비트→1비트 비교는 출발 정밀도가 다르다. 비트 비율은 실제 파일의 절대 용량을 그대로 산출하는 식이 아니며, 공식 표시 용량에 포함된 세부 구성별 내역은 확인되지 않았다.

같은 퀄컴 시험에서 토큰 생성 속도는 7.44TPS에서 15.36TPS로 약 두 배였다. 이는 전체 대화 응답이나 배터리 수명의 비교가 아니다.

올해 말 패션 안경 출시 계획을 다룬 국내 보도도 있지만 그 제품과 이 시험 플랫폼의 동일성은 확인되지 않았다. 이 계산을 판매 제품의 메모리 사양이나 성능 보장으로 적용할 수 없다.

자료: PrismML 스마트안경 시연과 시험 각주 · prismml.com · ZDNet XR 현장 보도 · zdnet.co.kr

기억은 남기고 임시 평문은 지우는 설계

구글은 서버에 사용자별 기억을 보관하면서 내용을 보호하는 설계를 공개했다. 요청이 오면 검증된 격리 환경 안에서 키를 풀어 필요한 기억을 읽는다. 처리 후 기억은 다시 암호화해 남기고 임시 평문을 지우는 방식이다.

다음 요청에서 같은 기억을 찾으려면 사용자별 저장소로 연결할 수 있어야 한다. 백서는 지속 기억 경로에서는 네트워크 수준의 비표적성을 주장하지 않는다고 명시한다. 내용 열람을 막는 보호 속성과 특정 사용자의 저장소로 요청을 보낼 수 없다는 속성은 다르다.

식별자가 실명이나 계정과 어떻게 연결되는지는 확인한 문서만으로 단정할 수 없다. 적용 제품과 제공 시점이 확인된 기능 안내가 아니라 구글이 제안한 설계의 설명이다.

자료: Google DeepMind 서버 기억 발표 · deepmind.google · Private AI Compute 기술 백서 · services.google.com