중국에서 개발한 마누스(Manus)는 딥시크(DeepSeek)에 이은 중국 AI 스타트업 버터플라이펙트(Butterfly Effect)가 만들어낸 자율형 AI에이전트이다.
위 기사에 따르면 마누스는 초대코드, 계정 및 비밀번호를 얻기 위해 1,000달러(약 145만 원)의 거래가 이루어지고 있으며, 회사 측 발표에 따르면 AGI 성능 평가인 GAIA벤치마크 테스트에서 최고(SOTA) 성적을 기록해 오픈AI '딥 리서치'보다 높은 평가를 받았다고 한다.
-AGI(artificial general intelligence) : 인간과 유사한 지능과 스스로 학습할 수 있는 능력을 갖춘 소프트웨어를 의미한다.
-GAIA(benchmark for general AI assistants) : AI 모델이 실제 복잡한 작업을 얼마나 잘 수행하는지 평가하는 벤치마크이다.
그런데 이런 마누스의 시스템 코드가 유출되는 사건이 발생했다. 한 사용자가 마누스 시스템에 특정 경로("/opt/.manus/")의 파일을 요청하자, 마누스는 이를 반환했다. 해당 파일을 입수한 사용자는 이를 인터넷에 유포했고, 소스 코드를 분석한 여러 사용자들은 탈옥(jailbreak)과 관련된 우려를 말하고 있다.
Jailbreak란?
일반적으로 스마트폰이나 전자기기의 운영체제(OS)의 제한을 우회하거나, 기본제한을 넘어 소프트웨어를 변경하는 것을 의미한다.
유닉스 기반 운영체제에서는 특정 프로세스가 접근할 수 있는 디렉터리를 제한하는 "chroot(체인지 루트)" 기능이 있다. 이를 통해 프로세스를 지정된 디렉터리 안에 가두는 환경을 "chroot jail"이라 한다. 그러나 chroot는 루트 권한이 있는 경우 쉽게 우회될 수 있으며, 이를 탈출하는 방법을 "chroot escape"라고 한다.
일반적으로 "Jailbreak"는 스마트폰이나 AI 모델과 같이 보안 제한이 걸린 시스템을 우회하는 의미로 사용되지만, 보안 경계를 깨고 우회한다는 점에서 chroot escape와 유사한 개념으로 언급되기도 한다.
AI에서는 윤리적, 법적, 안전한 사용을 위한 제한이 존재하는데 이를 프롬프트 엔지니어링 등의 기법으로 ai의 보안장치를 우회하여 악의적인 응답을 유도하는 의미로 사용한다.
마누스는 졸지에 오픈소스가 된 셈이다.
이미 공개된 소스 코드는 복제에 문제가 없겠지만, 높은 성능을 가진 AI가 Jailbreak를 통해 악의적으로 사용될 경우 그 파장이 상당할 것으로 보인다. 한동안 추이를 지켜볼 필요가 있을 것 같다.