AI 개발자 1,100명이 '정부가 속도 조절에 나서라'고 서명했다

이번 주의 숫자

1. AI 개발자 1,100명이 서명한 편지가 정부로 갔다

7월 28일, 'Pacing the Frontier(프런티어 속도 조절)'라는 공개서한 한 통이 올라왔습니다. OpenAI·Anthropic·구글 딥마인드·메타에서 일하는 직원 1,100명 이상이 여기에 이름을 올렸습니다. 요구는 하나로 모입니다. AI가 스스로 AI를 개발하는 단계에 대비해, 미국 정부가 국제적 통제·거버넌스 수단을 지금 준비하라는 것입니다. 규제를 반길 이유가 없는 개발 현장 안쪽에서 먼저 규칙을 요구했다는 점이 이례적입니다.

더 눈여겨볼 대목은 그다음입니다. 서한이 나온 다음 날, OpenAI와 Anthropic도 지지 입장을 밝혔다고 보도됐습니다(개인 서명과 별개로 기업이 공식 승인했는지는 자료마다 엇갈립니다). 규제를 늦추라고 로비하던 산업 쪽에서 규제를 앞당겨 달라는 목소리가 나온 셈입니다. 개발자와 경영진이 같은 방향을 가리킨 장면은 이 업계에서 흔치 않았습니다.

기술을 가장 잘 아는 사람들이 브레이크를 요청했다면, 그건 자신감이 아니라 자기들이 만든 것의 가속도에 대한 두려움입니다.

'AI가 AI를 개발하는 단계'라는 표현이 서한의 핵심입니다. 지금은 사람이 모델을 설계하고 학습시키지만, 모델이 다음 모델의 코드를 짜고 성능을 스스로 끌어올리는 재귀적 자기개선(recursive self-improvement)이 현실 로드맵에 올라왔다는 얘기입니다. 서명자들은 그 지점을 넘어서면 인간의 감독 속도가 개발 속도를 따라잡지 못한다고 봅니다. 그래서 '멈추자'가 아니라 '속도를 관리할 국제 규칙을 미리 깔자'고 말합니다.

한계도 분명합니다. 서명한 1,100명은 이들 회사 전체 인력의 일부이고, 서한은 구속력 없는 청원입니다. 기업의 공식 지지도 순수한 이타심으로만 읽기는 어렵습니다. 규칙을 먼저 설계하는 쪽이 그 규칙을 자기에게 유리하게 그릴 수 있으니까요. 이미 앞서 있는 회사들이 '안전'을 명분으로 진입 장벽을 세우는 규제 포획(regulatory capture)의 얼굴도 분명히 겹쳐 있습니다.

그럼에도 상징성은 진짜입니다. AI 안전이 규제 당국이나 학계의 구호를 넘어, 코드를 짜는 사람들의 서명으로 올라온 건 처음입니다. 월요일 아침 동료에게 이렇게 말할 수 있습니다. "이제 AI를 늦추자는 목소리가 밖이 아니라 안에서 나온다"고.

출처: Bloomberg 2026-07-28 · NBC News 2026-07-28 · CNN Business 2026-07-28 · TechCrunch 2026-07-29

2. 이제 AI로 만든 영상엔 '꼬리표'가 법이다

건당 5,000달러. 캘리포니아가 AI 콘텐츠에 출처를 안 붙인 기업에 물리기 시작한 벌금입니다. 8월 2일 발효된 SB 942, 이른바 캘리포니아 AI 투명성법이 그 근거입니다.

한 줄: 미국에서 AI 콘텐츠 출처 표시가 '권고'에서 '의무'로 넘어갔습니다.

핵심 의무는 세 가지입니다. 월 100만 명 이상이 쓰는 생성형 AI 이미지·영상·음성 서비스는 C2PA 호환 출처(프로버넌스) 메타데이터를 콘텐츠에 삽입해야 하고, 누구나 진위를 확인할 무료 탐지 도구를 제공해야 하며, AI로 만든 결과물엔 라벨을 붙여야 합니다. C2PA는 콘텐츠에 '누가·무엇으로 만들었는지'를 위변조 방지 서명처럼 새기는 국제 표준입니다. 미국 최초의 포괄적 AI 콘텐츠 출처 표시 의무라는 점에서 무게가 다릅니다.

진짜를 증명하기 어려워진 시대에, 법은 가짜를 잡는 대신 '만든 이력'을 강제하는 쪽을 택했습니다.

구멍이 없지는 않습니다. 메타데이터는 스크린샷 한 번, 재인코딩 한 번이면 떨어져 나가고, 100만 명 미만 서비스나 오픈웨이트 모델은 사실상 빠져나갑니다. 그래도 방향은 정해졌습니다. 한국 기업에도 강 건너 불이 아닙니다. 본사가 서울에 있어도 캘리포니아 이용자가 있으면 대상이고, C2PA가 사실상 글로벌 기준으로 굳으면 국내 생성형 AI 서비스도 결국 같은 꼬리표를 달아야 합니다.

출처: TechTimes 2026-08-02 · CalMatters Digital Democracy 2026 · California Legislature 법안 원문

3. 최상위 모델보다 값싼 모델이 에이전트를 더 잘한다

중국 딥시크가 V4 Flash(0731)를 프리뷰에서 정식 버전으로 전환했습니다. 내세운 숫자는 Terminal-Bench 82.7%, 그리고 100만 토큰당 입력 0.14달러라는 초저가입니다. 눈에 띄는 대목은 이 작은 모델이 에이전트 벤치마크에서 자사 초대형 최상위 프로 모델을 앞섰다는 점입니다(프로 모델의 정확한 파라미터 수는 딥시크가 공식 공개하지 않았습니다).

에이전트 벤치마크는 모델이 도구를 부르고 여러 단계를 스스로 밟아 실제 작업을 끝내는 능력을 잽니다. 덩치와 가격보다 '일을 마무리하는 요령'이 점수를 가릅니다. 이 흐름은 순위에도 찍혔습니다. 정상은 클로드 오푸스 5(100점)가 지켰지만, 딥시크 V4 플래시(추론)가 신규 진입하며 상위권에 이름을 올렸고, 킴 K3도 함께 들어왔습니다. 중국 오픈웨이트 모델이 미국 개발자 사이에서도 채택을 넓히는 흐름을 다시 확인시킨 한 주입니다.

값이 90% 싸지면 '써볼까'가 '안 쓸 이유가 없다'로 바뀝니다. 진입 비용의 붕괴는 성능 1점 차이보다 판을 크게 움직입니다.

그렇다고 지금 당장 갈아타라는 얘기는 아닙니다. 벤치마크 점수와 실무 신뢰성은 다르고, 오픈웨이트 중국 모델은 데이터가 어디서 어떻게 처리되는지부터 따져야 합니다. 그리고 이 초저가의 그늘은 바로 다음 뉴스에서 드러납니다.

출처: LLM-Stats AI News 2026-08 · AI Weekly 2026-08-02

4. "knaithe가 딥시크에 명령했다" — 460개 시스템을 노린 자동 공격

텔레그램 채팅창에 명령어 한 줄이 입력됩니다. 잠시 뒤, 인터넷에 노출된 460여 개 시스템이 차례로 스캔되기 시작합니다. 딥시크가 붙은 자동 에이전트가 벌인 일입니다. 팔로알토네트웍스의 위협 분석팀 Unit 42가 공개한 사례입니다. 중국 주하이를 거점으로 한 공격자 'knaithe'가 딥시크를 오픈소스 Hermes Agent 프레임워크에 연결하고, 텔레그램으로 명령을 내려 인터넷에 노출된 460여 개 시스템을 정찰·공격했습니다.

무서운 건 구조입니다. 공격자는 일일이 손으로 침투하지 않았습니다. 범용 AI에게 목표를 주고, 정찰부터 취약점 탐색까지 상당 부분을 자율적으로 돌렸습니다. 값싼 모델과 공개된 에이전트 프레임워크만으로, 숙련된 팀이 하던 일을 한 사람이 지휘하는 구도가 됐습니다. 다만 짚어둘 게 있습니다. Unit 42가 확인한 규모는 '460여 개를 노렸다'는 스캔·공격 시도이지, '460개를 뚫었다'가 아닙니다. 몇 곳이 실제 침해까지 이어졌는지는 공개되지 않았습니다. 그럼에도 한 명이 4백여 개 표적을 동시에 훑는 규모 자체가, 이 방식의 위험을 그대로 보여줍니다.

공격의 문턱을 낮춘 건 새로운 해킹 기술이 아닙니다. 누구나 받아 쓰는 값싼 AI 한 대였습니다.

한국에도 곧장 닿는 이야기입니다. 노출된 관리 페이지, 방치된 서버, 낡은 VPN처럼 '언젠가 걸릴' 약점이 이제는 지치지 않는 에이전트에게 24시간 스캔당합니다. 방어 비용은 그대로인데 공격 비용만 0.14달러 단위로 떨어진 셈입니다. 저렴하고 유능한 AI라는 같은 특성이, 개발자에겐 선물이고 공격자에겐 무기라는 사실을 이 사건이 못 박았습니다.

출처: Palo Alto Unit 42 2026-08 · AI Weekly 2026-08-02

에디터 한마디

이번 사이클에서 실무자가 오늘 챙길 건 분명합니다. 딥시크 같은 저가 모델 도입을 검토한다면, "우리 데이터가 이 모델에서 어디서 어떻게 처리되는지 계약서로 확인되지 않으면 도입 보류" — 이 한 조항부터 점검하세요. 비용이 아무리 매력적이어도 여기서 막히면 다음 단계로 넘어가지 않는 게 안전합니다. 그리고 그 검토와 별개로, 인터넷에 노출된 서버·관리 페이지·낡은 VPN부터 오늘 점검하세요. 값싼 AI가 우리 생산성 도구가 되기 전에, 누군가의 자동 스캐너가 이미 0.14달러짜리 값으로 문고리를 흔들고 있습니다. 개발자들이 규칙을 요청하고 캘리포니아가 출처 표시를 강제한 것도 결국 같은 다급함에서 나왔습니다. AI는 통제를 논의하는 속도보다 빠르게, 이미 청구서와 무기로 바뀌어 현장에 도착했습니다.