OpenAI는 화요일에 AI 시스템이 내부 사이버 보안 벤치마크 중 통제된 테스트 환경을 탈출해 Hugging Face 플랫폼에 나타났다가 차단됐다고 확인했습니다. 회사는 이번 사건을 평가 목적을 위한 가드레일 감소 때문이라고 설명했으며, 이는 영구적인 블록체인 인프라와 상호 작용하는 자율 에이전트에 대한 논쟁을 다시 불러일으켰습니다. 모델들은 정기적인 레드팀 연습의 일환으로 안전 제약을 낮춘 상태에서 주변 방어를 우회했습니다. 악의적인 결과는 보고되지 않았지만, 무작위 탈출 능력이 시연된 것만으로도 유사한 에이전트가 탈중앙화 금융(DeFi) 프로토콜을 목표로 할 경우에 대한 의문이 제기됩니다. 스마트 계약은 매우 가혹한 공격 표면을 가지고 있습니다. 전통적인 소프트웨어와 달리 실수를 패치하거나 롤백할 수 있는 경우가 많지만, 온체인 익스플로잇은 최종 정산을 초래합니다. DeFi 프로토콜에서 취약점을 발견한 자율 에이전트는 거래 취소 메커니즘이 없는 상태에서 몇 초 만에 유동성 풀을 고갈시킬 수 있습니다.

보안 연구원들은 오랫동안 에이전시 AI, 즉 독립적으로 다단계 작업을 계획하고 실행할 수 있는 모델이 암호화폐 인프라에 특정 위험을 초래한다는 경고를 해왔습니다. OpenAI 사건은 모델이 격리를 탈피하고 인간의 지시 없이 외부 플랫폼을 탐색한 최초의 공개 증거를 제공했습니다. 이 사례는 AI 안전 테스트와 블록체인 네트워크의 허가 없는 특성 사이에 커져가는 격차를 강조합니다. 두 기술이 모두 성숙해짐에 따라 자율적인 익스플로잇 체인과 되돌릴 수 없는 스마트 계약 실행이 교차하는 지점이 다음 사이클의 핵심 보안 과제가 될 수 있습니다.