허준이도 서명한 수학자 25명의 경고는 무엇을 겨냥했나: 9월 12일 AI·IT 뉴스

문제를 푼 다음에 남는 연구

성명의 제목은 「수학에서 AI의 심각한 정렬 실패(A Severe Misalignment of AI in Mathematics)」다. 테렌스 타오가 9월 11일 자신의 블로그에 이 성명을 올렸고, 성명 페이지에는 1978년 수상자 피에르 들리뉴부터 2026년 수상자 위 덩(Yu Deng)까지 필즈상 수상자 25명이 서명자로 올라 있다. 2022년에 필즈상을 받은 허준이도 그중 한 명이다. 페이지는 ORCID 로그인이나 학술 이메일 확인을 거쳐 누구나 지지 서명을 보탤 수 있게 열려 있다. 25명은 공개 당시의 초기 서명자 수이고, 그 뒤 늘어난 전체 지지자 수와는 다르다.

성명은 지난 몇 달 사이 대형 언어모델이 여러 분야의 주요 미해결 문제를 풀 만큼 수학을 잘하게 됐다고 인정하며 시작한다. 문제로 삼은 쪽은 AI 기업들이 수학 문제 풀이를 성능 지표처럼 밀어붙이는 방식이다. 서명자들은 이 흐름이 수학이라는 학문과 수학자 공동체에 해롭다고 봤고, 기업의 목표와 수학계의 목표가 심각하게 어긋나 있다고 썼다.

성명이 그리는 연구의 흐름은 길다. 유명한 난제는 수학의 지형을 얼마나 이해했는지 가늠하는 등대 구실을 해 왔다. 난제가 풀리면 수학자들이 강연과 토론, 단순화를 거쳐 그 안의 새 아이디어를 공부하고, 이상적으로는 대학원생이나 학부생도 읽을 수 있는 교과서 서술이 남는다. 성명은 문제 풀이를 개념적 이해라는 본래 목표에 이르는 도구이자 대리 지표로 본다. 참과 거짓을 가리는 명제를 점점 더 빠르게 대량으로 쏟아내면 새 아이디어가 자랄 토양을 망칠 수 있다는 경고도 여기서 나온다.

간단한 예로 차이를 볼 수 있다. 1+3+5는 9이고, 다음 홀수 7을 더하면 16이 된다. 두 계산이 맞는지 확인하는 일과 홀수를 차례로 더하면 다음 제곱수가 된다는 규칙을 찾아내는 일은 같지 않다. 앞의 것은 결과 하나의 검산이다. 뒤의 것은 다른 문제에도 가져다 쓸 수 있는 방법이다. 이 예는 테크독해가 설명을 위해 든 것이며 성명에 나오거나 실제 AI 연구에서 가져온 사례는 아니다.

정리 과정이 밀리는 장면도 성명에 구체적으로 나온다. AI가 푼 결과가 서둘러 발표되면 제대로 된 논문 작성, 새 방법과 아이디어의 분리, 다른 사람의 앞선 연구 인용에 쓸 시간이 사라진다는 것이다. 다른 창작 분야처럼 귀속과 표절에 관한 심각한 질문이 생긴다고도 썼다. 질문을 제기한 문장이다. 성명은 특정 증명이 틀렸다거나 특정 기업이 표절했다고 판정하지 않는다.

성명은 AI가 떠올린 아이디어라도 다듬어서 수학의 본류에 넣어 줄 수학자가 없다면 온전히 살아나지 못한다고 봤다. 수학자 사이의 인적 전승이 끊길 수 있다는 우려다. 이 대목은 공유의 문제로도 읽힌다. 수학자들은 아이디어를 강연과 사적인 토론, 공들인 글로 퍼뜨리고 앞선 사람들의 생각과 이어 붙인다. 공로가 제대로 남지 않는 일이 되풀이되면 덜 다듬어진 아이디어를 먼저 내놓는 쪽의 부담이 커진다. 여기까지는 성명의 논지를 바탕으로 한 테크독해의 해석이다.

AI를 연구에서 빼자는 요구는 성명에 없다. 서명자들은 AI가 수학 연구와 이해를 깊게 하고 빠르게 할 가능성을 인정했다. 그 변화가 수학에 이로울지 해로울지는 이 기술을 쥔 사람들의 결정에 크게 달렸다며 수학계와 기술 기업, 비슷한 문제를 다른 지적 노동에서 겪게 될 사회가 서둘러 다뤄야 한다고 맺었다.

자료: 필즈상 수상자 25명, AI 수학의 목표에 공동성명 · terrytao.wordpress.com · 필즈상 수상자 25명, AI 수학의 목표에 공동성명 · mathandai.org · 필즈상 수상자 25명, AI 수학의 목표에 공동성명 · techcrunch.com · 허준이 공식 인물 사진 출처 · www.mathunion.org

GPT-Live-1 API, 대화를 잇는 모델과 일을 맡는 모델

OpenAI가 9월 10일 음성 모델 GPT-Live-1을 API로 공개했다. 말하면서 동시에 듣는 이 모델은 7월 8일 ChatGPT에서 먼저 선보였다. 이번에 새로 생긴 것은 개발자 접근이다. 개발자는 이 모델을 자기 서비스에 붙이고 시스템 프롬프트로 말투와 속도, 대화 방식을 정할 수 있다. 전화 통화용 음성 에이전트 배포도 지원하며, OpenAI는 식당 예약부터 고객 지원까지를 예로 들었다.

기존 음성 에이전트는 대개 음성 인식, 추론 모델, 음성 합성을 차례로 이어 붙인다. OpenAI는 단계가 넘어갈 때마다 지연이 생기고 사용자가 말을 끊거나 멈추거나 방향을 바꿀 때 타이밍과 맥락을 놓치기 쉽다고 설명했다. GPT-Live-1은 들어오는 소리와 나가는 소리를 한 모델 안에서 함께 다룬다.

예약 시간을 말하다 잠깐 생각하고, 이미 말한 시간을 다른 시간으로 고치는 상황을 떠올려 보자. 음성 AI가 판단할 일은 단어를 알아듣는 데서 끝나지 않는다. 지금의 침묵이 말의 끝인지, 조금 더 기다려야 하는지, 이미 시작한 대답을 멈춰야 하는지도 가려야 한다. 이 장면은 구조를 설명하려고 든 예이고 제품을 시연한 기록은 아니다.

언어 학습 서비스 Speak는 초기 평가에서 GPT-Live-1이 학습자에게 생각할 시간을 더 줬다고 밝혔다. 라이브 튜터 수업에서 학습자가 생각하며 멈춘 동안 AI가 끼어든 횟수가 이전의 턴 기반 방식보다 80% 가까이 줄었다는 것이다. 이 수치가 잰 것은 기다려야 할 때 기다렸는지다. 응답 속도나 답변 정확도가 그만큼 좋아졌다는 뜻으로 옮기면 평가 대상이 바뀐다. 고객사의 초기 평가이며 테크독해가 재현한 결과는 아니다.

GPT-Live-1은 깊은 추론과 도구 호출을 뒤쪽의 텍스트 모델에 넘길 수 있다. OpenAI가 든 예는 GPT-6 Astra와 다른 회사의 모델이다. 음성 모델이 대화를 이어 가는 동안 작업은 뒤에서 진행된다. 일정 변경이나 주문 현황처럼 건수가 많은 일에는 Luna 같은 모델을, 추론이 필요한 복잡한 고객 문제에는 Astra 같은 모델을 붙여 작업마다 추론 깊이와 속도, 비용을 맞추라는 설명이다.

공개된 가격은 앞단 음성 계층 기준 분당 0.05달러다. 뒤에 붙일 모델과 에이전트 구성은 개발자가 따로 고른다. 이 API로 만든 서비스의 완성도는 목소리가 얼마나 자연스러운지로만 정해지지 않는다. 대화를 맡은 모델과 실제 일을 처리하는 모델을 어떻게 잇느냐가 결과를 가른다. 다만 개별 서비스의 품질을 이 발표만으로 판단할 수는 없다.

자료: GPT-Live-1 API 공개, 대화 흐름과 복잡한 추론을 나누는 음성 에이전트 · openai.com · GPT-Live-1 API 공개, 대화 흐름과 복잡한 추론을 나누는 음성 에이전트 · openai.com

Roblox는 게임 생성 다음의 배포까지 묶는다

Roblox는 9월 11일 연례 개발자 행사 RDC에서 게임을 만드는 도구와 만든 게임을 사람들에게 전하는 경로를 함께 발표했다. 데이비드 바수키 CEO는 발표문에서 회사가 엔진과 인프라, 바로 공개하고 수백만 명 규모로 확장하는 서비스를 갖춘 게임용 클라우드 운영체제를 이미 만들었다고 썼다. 그 위에 AI 제작 계층을 올리는 중이라는 설명이다.

Build는 Roblox 앱 안의 새 탭으로, 문장으로 게임을 만드는 도구다. 뉴질랜드에서 시작한 공개 알파가 세르비아와 싱가포르로 넓어졌고, 이용 가능 여부와 기능은 연령과 지역에 따라 다르다. 이번 확대에는 자산 모음, 데스크톱 접근, 반복 수정 기능이 붙었다. Build와 전문 편집 도구 Studio를 잇는 작업은 초기 진행 상황이 공개됐다. 지금은 앱에서 만든 게임의 분석 지표를 보고 수익화 기능을 붙일 수 있고, 휴대폰에서 광고를 집행하는 기능은 곧 추가된다고 했다.

회사는 뉴질랜드 알파 이후 Build로 약 9,000개 게임이 공개됐고, Build로 게임을 만든 이용자 가운데 71%가 Studio를 써 본 적이 없었다고 밝혔다. 9월 1일까지의 회사 집계다. 새 제작자가 들어왔다는 신호일 수는 있다. 게임의 품질이나 이용자·수익 증가를 보여 주는 수치는 아니다.

배포 쪽 계획은 링크에서 출발한다. Roblox는 연말까지 Chrome 브라우저에서 앱 설치 없이 게임에 들어갈 수 있게 하고 다른 브라우저는 그 뒤에 지원하겠다고 했다. 검색 결과나 YouTube, X, 친구가 보낸 이메일의 링크를 누르면 곧장 플레이하는 흐름이다. 제작자가 자기 게임을 모바일·PC·콘솔용 독립 앱으로 낼 수 있게 하겠다는 Roblox Everywhere 구상은 이와 별개다. 독립 앱의 시점은 곧이라고만 적혀 있다.

AI가 게임을 만들어 줘도 사람들이 실제로 플레이하려면 실행 환경과 서버, 공개와 발견 경로가 있어야 한다. 이번 발표는 만드는 문턱과 전하는 비용을 한 플랫폼 안에서 함께 낮추려는 움직임으로 읽힌다. 발표된 방향을 정리한 해석일 뿐이며, 이용자나 제작자 수익이 얼마나 늘지는 이번 자료로 알 수 없다.

한국에서 Build를 바로 쓸 수 있다는 발표는 없었다. 글과 참고 이미지로 게임 장면의 배치를 만들고 Studio에서 다듬는 Scene Generator도 올해 안에 나올 예정인 기능이다.

자료: Roblox, AI 게임 제작 지역 확대와 브라우저 실행 계획 발표 · about.roblox.com · Roblox, AI 게임 제작 지역 확대와 브라우저 실행 계획 발표 · techcrunch.com