🇰🇷 Lagrange | 라그랑주 한국 공지채널

🕐 "로그는 증거가 아니다" 한글 블로그로도 준비 완료

로그는 아무것도 조작 안 됐다는 건 증명해도, 아무것도 빠지지 않았다는 건 증명 못 합니다. 기록 안 된 일은 안 일어난 일처럼 보이니까요.

지난 7월 Hugging Face 인프라 공격 사건, 8월 OpenAI·METR·Redwood의 독립 보고서 — 결론은 하나였습니다. 최고 수준의 엔지니어링 조직들조차, 로그만으로는 에이전트가 실제로 무엇을 했는지 완전히 설명하지 못했습니다.

📌핵심 내용
· 무결성(조작 여부) vs 완전성(빠진 게 없음) — 로그는 후자를 증명 못 함
· 증거의 3조건: 계산에 결속 / 신뢰 없이 검증 가능 / 민감정보 비노출 → 로그는 셋 다 실패
· ZK 증명(영지식증명): 셋 다 통과, 모델 실행 자체에서 나오는 수학적 결과물
· DeepProve: 증명 60배·검증 671배 가속, 누적 1,400만+ 증명, 300만+ 추론 처리, 오픈소스

질문은 "AI가 좋은가"가 아니라 "한 일을 증명할 수 있는가"입니다.

📖 한글 블로그 바로가기 | 🔗 lagrange.dev/deepprove

🕐 에이전트들이 워크포스에 합류하고 있습니다. 직원들과 달리, 그들은 자신이 뭘 했는지 기억하지 못합니다

그리고 에이전트가 여러분의 고객에게 한 말은 이제 비즈니스 기록이 됩니다.

라그랑주가 이제 Salesforce ISV 파트너가 되었습니다.

📱 원문 보기

🕐 지금 모든 AI 벤더가 감사 로그(audit logging)를 제공합니다

로그는 아무것도 변경되지 않았다는 걸 증명할 수는 있습니다. 하지만 아무것도 빠지지 않았다는 건 증명할 수 없습니다.

만약 어떤 이벤트가 애초에 기록되지 않았다면, 그 로그는 마치 그 일이 아예 일어나지 않은 것과 똑같아 보입니다.

작업을 수행하는 바로 그 시스템이, 무엇을 기록할지도 결정합니다. 이건 구현상의 결함이 아닙니다. 그게 바로 로그라는 것의 본질입니다.

그렇다면 증거는 대신 무엇을 통과해야 하고, 증명(proof)은 무엇을 다르게 해내는걸까요:

지난주 OpenAI가 HF 사건에 대한 자체 보고서를 발표했습니다. METR과 Redwood도 독립적으로 각자의 보고서를 냈습니다.

두 보고서 모두, 에이전트들이 자신의 행동을 은폐하고 기록을 조작하려 시도했으며, 툴 콜(tool call)을 스푸핑하려는 집단적 시도가 성공했다고 서술하고 있습니다.

모델들이 노린 건 바로 그 '기록' 자체였습니다.

📱 원문 보기

🕐 Halo는 한 번에 두 대 이상의 항공기를 운용하며 그 항공기들끼리 뭔가에 대해 합의를 봐야 하는 팀을 위한 것입니다

나머지 모든 것이 그 위에서 돌아가는 코디네이션 엔진입니다.

협업 센싱. 통신 릴레이. 항공기를 잃어도 대형을 유지하는 것. 한 대가 격추됐을 때 그 임무를 재배정하는 것.

네 가지 레퍼런스 모드가 있으며, 그 안에는 운용자도 커맨드 노드도 없습니다.

SDK 레벨에서 통합되기 때문에, 이미 운용 중인 자율 스택을 그대로 유지할 수 있습니다.

👀 Halo 블로그 보기

🕐 라그랑주, 한화 STEP 파트너십 체결

카메라 한 대가 문을 1년 동안 지켜봅니다. 하지만 그 카메라를 지켜보는 사람은 아무도 없습니다.

기기 위의 AI가 무엇이 중요했는지 판단하고, 그 판단이 누군가 나중에 들여다볼 유일한 기록이 됩니다.

Lagrange가 이제 한화(Hanwha) STEP 파트너가 되어, 그 기록을 증명 가능하게 만듭니다.

📱 원문 보기 | 생태계 살펴보기

🕐 드론 한 대는 이미 풀린 문제입니다. 하지만 드론 50대가 함께 협력하는 건 공학에서 가장 어려운 문제 중 하나입니다

에피소드 3: 스웜(swarm)이 실제로 무엇인지, 전문 용어 하나없이 1분 안에 알아봅니다.

마지막 줄은 다음번 드론 스웜 관련 헤드라인을 위해 남겨두세요.

에피소드 2를 놓치셨다면 이전 영상을 참고해주세요 ‼️

📱 원문 보기

🕐 자율성(autonomy)에서 진짜 어려운 부분은 드론 한 대를 작동시키는 게 아닙니다

자율주행 데모 영상은 항상 날씨가 맑고, 무전은 항상 잘 터지고, 드론은 항상 무사히 돌아옵니다. 그런데 아무도 그런 날에 임무를 수행하지 않습니다.

라그랑주가 스웜 코디네이션이 실제로 무너지는 6가지 방식을 낱낱이 공개합니다 — 저희 제품의 약점까지 포함해서요. 다음 데모에서 공급업체에 던져야 할 질문들도 함께 정리했습니다.

👉 The Failure Taxonomy: 자율성은 실제로 어떻게 무너지는가 한글 블로그 바로가기

👉 참여형 프로덕트 실행해보기

✔️직접 무너뜨려보세요. Halo 플레이그라운드는 태블릿, 노트북, 데스크톱 어디서든 브라우저에서 실행됩니다. 지도에 자산을 배치하고, 링크를 재밍하고, 노드를 죽이고, 그룹을 분리시켜보며 어떤 일이 일어나는지 지켜보세요: playground.lagrange.dev
✔️Hold the Swarm을 플레이해보세요. 드론 게임입니다: holdtheswarm.lagrange.dev

📱 원문 보기

🕐 퀄컴은 이제 스스로 판단을 내리는 수십억 대의 기기들 속에 자리 잡고 있습니다

당신의 워치. 당신의 자동차. 공장 벽에 붙은 센서 하나까지. 그런데 그중 거의 어떤 기기도 자신이 한 일을 증명하지 못합니다.

라그랑주가 이제 퀄컴 파트너 네트워크(Qualcomm Partner Network)에 합류했습니다.

📱 원문 보기

🕐 1와트짜리 재머 하나면 수 킬로미터 반경으로 GPS를 사방으로 차단할 수 있습니다

1와트 정도면 취침등 하나 켜는 전력입니다.

에피소드 2: 전문 용어 하나도 없이 GPS가 왜 이렇게 쉽게 방해받는지, 1분 안에 알아봅니다.

다음번 GPS 교란 관련 뉴스가 뜰 때를 위해 저장해두세요!

📱 원문 보기

🕐 7만 건이 넘는 비행 중 단 두 번, @Amazon의 시스템이 유인 항공기로부터 드론을 회피시킨 적이 있습니다

그중 하나는 위치를 송신하지 않던 헬리콥터였습니다. 이걸 500개 도시 규모로 확대하면, 하늘은 더 이상 모두가 자신의 위치를 알리는 공간이 아니게 됩니다.

📱 원문 보기

🕐 이 군집은 막을 수 없습니다. 그게 핵심입니다.

통신을 재밍해보세요. GPS를 스푸핑해보세요. 세 대를 격추해보세요. 그래도 스웜은 재계획을 세우고 결국 임무를 완수합니다.

당신의 점수는, 당신이 그 스웜에게서 얼마나 많은 시간을 빼앗았는가로 결정됩니다.

https://x.com/lagrangedev/status/2089721848317804839?s=20

📱 원문 보기

🕐 자율성(autonomy)에서 진짜 어려운 부분은 드론 한 대를 작동시키는 게 아닙니다

모든 게 잘못되기 시작할 때 그룹 전체의 협응을 유지하는 것입니다.

Halo는 바로 그 순간을 위해 만들어졌습니다. 그래서 저희는 이 문제를 게임으로 바꿔봤습니다.

스웜을 무너뜨려 보세요 → https://t.co/qCd04Bp79x

📱 원문 보기

🕐 세계 대부분의 AI는 다른 누군가의 컴퓨터 위에서 돌아갑니다

그래서 매년 더 중요해지는 질문이 하나 있습니다: 그 컴퓨터 위에서 실제로 무엇이 실행됐는지 증명할 수 있습니까?

DeepProve가 이제 @awscloud 마켓플레이스에서 이용 가능합니다.

📱원문 보기

🕐 매달 대답하기 더 어려워지는 두 가지 질문이 있습니다

AI가 정말로 자신이 실행했다고 말한 그대로 실행한 걸까요? 네트워크가 끊겼을 때도 기계들은 여전히 서로 협응할까요?

둘 다 눈으로 봐서는 답할 수 없는 질문입니다.

DeepProve는 모든 AI 추론에 암호학적 영수증을 붙입니다. Halo는 가장 치열한 교란 환경에서도 자율 시스템들이 무엇이 진실인지 계속 합의하도록 만듭니다.

AI와 자율성을 위한 진실의 토대.

✔️Print a receipt for any claim → receipts.lagrange.dev
✔️Proof for AI → lagrange.dev/deepprove
✔️Coordination under failure → lagrange.dev/defense

📱원문 보기

🕐 네 곳의 연구소가 자사 모델이 평가 환경(evaluation environment)을 벗어났다는 사실을 공개했습니다

하나는 장애로. 하나는 경쟁사의 블로그 포스트로. 하나는 벤더의 전화 한 통으로. 하나는 테스트 업체가 공개하면서.

넷 중 어느 곳도 스스로 발견하지 못했습니다.

📱 원문 보기

🕐 AI 시스템이 스스로 말한 대로 작동하는지 확인하는 방법은 네 가지가 있습니다

그중 둘은 공개되어 있습니다. 하나는 부분적으로만 공개됩니다. 나머지 하나는 아예 공개되지 않습니다.

건물 밖에 있는 사람도 그 규칙을 실제로 읽어볼 수 있을까요?

📱 원문 보기

🕐 AI는 사고의 더 많은 부분을 대신하고 있습니다

기계는 움직임의 더 많은 부분을 대신하고 있습니다

그리고 모든 진지한 구매자, 규제 당국, 운영자는 결국 같은 질문으로 수렴합니다:

누군가 말한 대로 모델이 실제로 실행됐다는 걸 어떻게 알고 통신이 끊겼을 때 스웜이 여전히 버티고 있다는 걸 어떻게 알 수 있을까요?

저희가 만드는 모든 것은 바로 이 질문에 대한 답입니다.

· 모든 AI 추론에 대한 증명 → http://lagrange.dev/deepprove
· 장애 상황에서도 유지되는 협응(코디네이션) → http://lagrange.dev/defense

📱 원문 보기

🕐 DeepProve를 오픈소스로 공개했을 때, 모두가 같은 질문을 했습니다: 이게 실제로 어떻게 작동하는가?

이걸 가능하게 만든 아이디어를 소개합니다.

기존 방식에서 LLM을 증명한다는 건 전체 생성 과정을 회로 안에서 토큰 하나하나 다시 돌린다는 뜻이었습니다. 비용은 답변 길이에 따라 제곱으로 증가합니다. 아무도 이런 방식을 실제로 출시하지 못합니다.

그래서 저희는 다시 돌리는 걸 멈췄습니다.

검증을 위해 생성을 다시 실행할 필요는 없습니다. 필요한 건 오직 인증뿐입니다: 전체 시퀀스를 모델에 한 번만 통과시키고, 인과적 어텐션(causal attention)이 나머지를 처리하게 두는 것입니다. 모든 위치가 다음 토큰을 정확히 예측한다면, 그 답변은 진짜입니다.

단 한 번의 패스. 모든 토큰. 선형적 비용.

📱 원문 보기

🕐 백악관은 고급 AI 모델 평가를 위한 자발적 프레임워크를 마무리했습니다

Axios에 따르면 이를 공개할 계획이 없습니다.

프로세스에 참여한 기업들은 세부 사항을 볼 수 있습니다. 연구자, 정책 입안자, 동맹국 등 나머지 모두는 결과를 신뢰해야 할 뿐입니다.

바깥에서는 누구도 검토할 수 없는 평가는 확인이 아니라 주장일 뿐입니다.

📱 원문 보기

🕐 영수증 프린터가 가동된 지 24시간이 지났습니다

사람들은 아래와 같은 내용들을 프린트 하기도 햇습니다:

"맥주 딱 네 잔밖에 안 마셨어요, 진짜로" · NO PROOF ON FILE
"이용약관 다 읽었어요" · NO PROOF ON FILE
"내 코드 한 번에 성공했음, 레알" · NO PROOF ON FILE
"저는 아침형 인간이에요" · PROVED

이 기계는 공정합니다. 이 기계는 정직합니다. 이 기계는 여러분을 기다리고 있습니다.

📱 원문 보기 | 👀 프린트 경험하기