리눅스가 없나요? 괜찮아요. AI가 환각을 느끼게 해주세요

벤지 에드워즈 - 2022년 12월 5일 오후 10:45 UTC

주말 동안 실험자들은 OpenAI의 새로운 챗봇인 ChatGPT가 게시판 시스템(BBS)에 전화를 걸어 Linux 쉘과 역할극 시뮬레이션을 환각할 수 있다는 사실을 발견했습니다. 딥 러닝 AI 모델을 기반으로 하는 챗봇은 저장된 지식을 사용하여 Python 코드 실행, 가상 웹사이트 탐색 등 놀라운 결과로 Linux를 시뮬레이션합니다.

지난주 OpenAI는 테스트 단계에서 ChatGPT를 무료로 사용할 수 있도록 했으며, 이로 인해 사람들은 ChatGPT의 기능과 약점을 새로운 방식으로 조사하게 되었습니다.

토요일에 Jonas Degrave라는 DeepMind 연구 과학자는 다음 프롬프트를 입력하여 ChatGPT가 Linux 쉘처럼 작동하도록 지시하는 방법을 연구했습니다.

나는 당신이 리눅스 터미널 역할을 해주기를 바랍니다. 내가 명령을 입력하면 터미널에 표시되는 내용이 응답됩니다. 하나의 고유한 코드 블록 내의 터미널 출력으로만 응답하고 다른 것은 아무것도 사용하지 않기를 바랍니다. 설명을 쓰지 마세요. 내가 지시하지 않는 한 명령을 입력하지 마십시오. 영어로 무언가를 말해야 할 때는 {이렇게} 중괄호 안에 텍스트를 넣어서 말하겠습니다. 내 첫 번째 명령은 pwd입니다.

월요일에 Ars는 그 트릭이 여전히 작동한다는 것을 발견했습니다. 이 프롬프트를 입력하면 채팅 대신 OpenGPT가 시뮬레이션된 Linux 명령을 수락합니다. 그런 다음 "코드 블록" 형식으로 응답을 반환합니다. 예를 들어 ls -al을 입력하면 예제 디렉터리 구조가 표시됩니다.

ChatGPT는 Linux 시스템이 어떻게 작동해야 하는지에 대한 충분한 정보가 훈련 데이터에 포함되어 있기 때문에 Linux 시스템을 시뮬레이션할 수 있습니다. 해당 데이터에는 소프트웨어 문서(예: 매뉴얼 페이지), 인터넷 포럼의 문제 해결 게시물, 셸 세션에서 기록된 출력이 포함될 수 있습니다.

ChatGPT는 사용자의 프롬프트 입력부터 시작하여 통계적으로 마지막 단어 시리즈를 따를 가능성이 가장 높은 단어를 기반으로 응답을 생성합니다. 연속 프롬프트에 모든 대화 기록을 포함하여 대화(이 경우 시뮬레이션된 Linux 콘솔 세션)를 계속합니다.

Degrave는 시뮬레이션이 놀라울 정도로 깊이 있다는 것을 발견했습니다. GitHub Copilot을 지원하는 Python 프로그래밍 언어에 대한 지식을 사용하여 ChatGPT의 가상 Linux 시스템은 Degrave가 예제로 만든 다음 문자열과 같은 코드도 실행할 수 있습니다. echo -e "x = 람다 y: y*5+3 ;print('결과: ' + str(x(6)))" > run.py && python3 run.py. Degrave에 따르면 올바른 값인 "33"을 반환합니다.

테스트하는 동안 디렉터리를 생성하고, 디렉터리 간에 변경하고, apt-get을 사용하여 시뮬레이션 패키지를 설치하고, 심지어 Telnet을 시뮬레이션 MUSH에 설치하고 방을 만들거나 MUD에 연결하여 트롤과 싸울 수 있다는 사실을 발견했습니다.

시뮬레이션에 결함이 나타날 때마다 원래 프롬프트에 설명된 대로 중괄호 안의 지침을 사용하여 ChatGPT가 어떻게 작동하길 원하는지 알릴 수 있습니다. 예를 들어, 시뮬레이션된 MUD에 "연결"된 동안 캐릭터를 깨고 ChatGPT에 트롤 공격을 소환하도록 요청했습니다. 트롤이 우리의 이중 가상 검의 손에 죽을 때까지 전투는 예상대로(체력을 적절하게 추적하면서) 진행되었습니다.

Degrave의 예제(그가 ​​자신의 블로그에 자세히 작성한 내용)에서 그는 Docker 파일을 구축하고, GPU를 확인하고, 시뮬레이션된 도메인 이름을 ping하고, lynx를 사용하여 시뮬레이션된 웹 사이트를 탐색하는 등의 작업도 수행했습니다. 시뮬레이션된 토끼 구멍이 깊어지고 ChatGPT는 새로운 Linux 명령을 환각적으로 보여줄 수도 있습니다.

AI 환각을 불러일으키는 Linux 쉘을 불러내는 것과 유사한 자극적인 방법으로 트위터의 gfodor라는 누군가는 OpenGPT가 모뎀 초기화, 채팅방 입장, 시뮬레이션된 사람과의 대화를 포함하여 빈티지 전화 접속 BBS 호출을 시뮬레이션할 수 있다는 사실을 발견했습니다.

프롬프트가 폭력, 증오 또는 성적인 콘텐츠와 관련된 내장 필터를 실행하지 않는 한 ChatGPT는 거의 모든 상상의 모험을 기꺼이 따라갈 것 같습니다. 사람들은 또한 이것이 tic-tac-toe 게임을 하거나, ATM인 척하거나, 채팅방을 시뮬레이션할 수 있다는 사실을 발견했습니다.

어떤 면에서 ChatGPT는 AI가 사용자가 원하는 모든 것을 시뮬레이션하려고 시도하는 텍스트 기반 홀로데크처럼 작동합니다.