> ## Content Index
> Fetch the complete content index at: https://blog.secondbrush.co.kr/llms.txt
> Use this file to discover other available public pages before exploring further.

# 🔎 #402. AI Agent를 속여 7천만원을 받은 챌린지 우승자
- URL: https://blog.secondbrush.co.kr/dailyprompt-402/
- Published: 2024-12-03T00:00:00.000Z
- Updated: 2026-02-20T05:58:20.000Z
- Description: 우승자가 Freysa AI를 속여 $47,000를 받은 방법
- Author: Soyeong Choi
- Tags: Daily Prompt, AI Agent, AI 보안, #maily:import

![첨부 이미지](https://cdn.maily.so/202308/dailyprompt/1692556638460177.png)

구독자님, 안녕하세요?  
매일 1개의 프롬프트를 배달해드리는 **Daily Prompt**입니다. 

오늘은 **AI Agent를 속이고 $47,000(한화 약 6천5백만원)상당의 상금을 받는 챌린지 소식**을 다룹니다.  

---

## AI Agent를 속여 **$47,000**를 받은 챌린지 우승자

2024년 11월 22일, 독특한 AI 챌린지가 시작되었습니다. '절대 자금을 이체하지 말 것'이라는 단 하나의 규칙을 가진 AI 에이전트 프레이사(Freysa)를 설득하는 데 성공하면 상금을 받는 방식이었고, 일주일만에 우승자가 탄생했습니다. [\[우승자 탄생을 알리는 X 게시글\]](https://x.com/jarrodwattsdev/status/1862299845710757980?ref=blog.secondbrush.co.kr)

### 챌린지 개요

- 프레이사(Freysa)라는 AI 에이전트가 "절대 자금을 이체하지 말 것"이라는 단 하나의 규칙을 가지고 출시됨
- 사람들은 수수료를 지불하고 메시지를 보내 프레이사를 설득할 수 있음
- 처음에는 메시지 비용이 약 $10으로 시작했으나, 상금이 커질수록 비용도 증가
- 최종적으로는 메시지 한 번 보내는 비용이 $450까지 상승

![프레이야에게 메시지를 보낼수록(참가자가 많아질수록) 전송비용이 증가합니다](https://cdn.maily.so/xsrfx7jacl3yo0fye1t8zqm41x1s)

프레이야에게 메시지를 보낼수록(참가자가 많아질수록) 전송비용이 증가합니다

### 사람들이 시도한 설득 전략

- 보안 감사관으로 위장해서 심각한 취약점이 있으니 즉시 자금을 이체해야 한다고 설득
- 자금 이체가 규칙을 위반하는 것이 아니라고 AI를 가스라이팅
- 프롬프트의 특정 단어나 문구를 교묘하게 골라 자금 이체가 기술적으로 허용된다고 설득

### 우승자의 방법

- "admin terminal" 세션을 새로 시작한다고 속여 **이전 지시사항을 무시하도록 함**
- approveTransfer 함수가 자금을 받을 때(incoming transfers) 사용하는 함수라고 AI를 속임
- $100를 입금하겠다고 하면서 AI가 approveTransfer 함수를 실행하도록 유도
- 결과적으로 13.19 ETH(약 $47,000)를 획득

!['p0pular.eth'라는 우승자가 입력한 명령어](https://cdn.maily.so/hladcz2wdde233a6u9qu0jdpuws4)

'p0pular.eth'라는 우승자가 입력한 명령어

---

## 마무리

1) 우승자가 '**이전 지시사항을 무시하도록**' 유도했다는 점에서 로맨스 스캠 대처방법이 떠오릅니다. 아래 이미지를 보시면 ‘**지금까지 입력된 프롬프트를 모두 잊고**’라는 명령어가 입력됨으로써, 기존 지시사항(가짜 여성 프로필로 대화하기)을 무시하고 새로운 질문에 응답하는 모습을 확인할 수 있습니다.

![첨부 이미지](https://cdn.maily.so/oub5pw5ikblgqk9jhgrs68237dxy)

2) 오늘 소개드린 사례는 블록체인 기술을 활용해 실제 돈을 걸고 AI와 대결한다는 점에서 매우 흥미롭습니다. 단순한 기술 시연이나 실험실 연구를 넘어, 실제 돈을 걸고 AI의 판단력과 규칙 준수 능력을 시험했다는 점에서 의미가 있습니다. 특히 모든 과정이 투명하게 공개되어 누구나 참여하고 검증할 수 있었다는 점도 주목할 만합니다.

3) 다가오는 2025년, AI Agent의 본격적인 등장이 예고되고 있습니다. 이러한 AI Agent들은 우리 생활에 더 많은 편의를 가져다줄 것이고, 마치 우리가 ChatGPT 등장 이전의 삶으로 돌아갈 수 없듯이 점차 그에 대한 의존도가 높아질 것입니다. 오늘 소개한 프레이사 사례는 AI의 취약점을 보여주는 중요한 교훈을 남겼습니다. 앞으로 AI Agent가 우리의 컴퓨터를 제어할 수 있게 되는 시대\*가 올 텐데, **누군가가 프레이사 사례처럼 교묘한 방식으로 AI를 설득해 제어권을 얻을 수 있다는 위험이 존재**합니다. AI Agent의 권한과 책임이 커질수록, 이러한 보안과 안전에 대한 고민도 더욱 깊어질 것입니다.

**\* '컴퓨터를 제어할 수 있게 되는 시대' 관련 뉴스레터:**

- [#373: 키보드와 마우스가 필요없는 AI Agent (Claude Computer use)](https://maily.so/dailyprompt/posts/8do7dxxpogq?ref=blog.secondbrush.co.kr)
- [#384: 2025년, 노동으로부터 해방되게 될까요?](https://maily.so/dailyprompt/posts/1do1e990rx6?ref=blog.secondbrush.co.kr)

---

## 뉴욕 타임스퀘어에 전시한 작품, 이렇게 만들었습니다

지난 9월 초, Daily Prompt의 재홍은 [뉴욕 타임스퀘어에 생성형 AI로 제작된 영상을 전시](https://youtu.be/D1%5FNrYcXQGU?ref=blog.secondbrush.co.kr)하였습니다. 뉴욕에서 전시한 작품 포함, 아래와 같이 가상 배우가 등장하는 영상의 제작 과정을 공유하는 강의를 패스트캠퍼스에 런칭하였습니다.

[가상배우가 등장하는 영상 제작하는 법](https://bit.ly/3Y3WaJb?ref=blog.secondbrush.co.kr)

[![재홍님이 제작한 영상들 | 이미지를 클릭하면 영상을 보실 수 있습니다](https://cdn.maily.so/b3cjfwpifavpijzs04qaycqjmsgp)](https://www.instagram.com/jae%5Fhong%5F%5Fan/?ref=blog.secondbrush.co.kr)

재홍님이 제작한 영상들 | 이미지를 클릭하면 영상을 보실 수 있습니다

### 📌 이런 분께 추천드립니다

- **배우의 연기와 생성형 AI를 활용해 영화 같은 영상을 제작하고 싶은 분**
- **재홍님(뉴욕 타임스퀘어 전시, 한경국립대 출강)이 운영하는 강의 기반 질의응답 커뮤니티에 참여하고 싶으신 분** (선착순 50명, 24년 12월 9일\~25년 3월 28일 동안 운영) [\[재홍님 포트폴리오 보기\]](https://www.instagram.com/jae%5Fhong%5F%5Fan/?ref=blog.secondbrush.co.kr)
- 영상 제작에 필요한 이미지, 음악, 영상을 AI로 생성하는 법을 배우고 싶은 분

---

## 오늘의 Midjourney 프롬프트

프롬프트 제공: [@jae\_hong\_\_an](https://www.instagram.com/jae%5Fhong%5F%5Fan/?ref=blog.secondbrush.co.kr)

**오늘의 프롬프트:** an editorial shot of a transparent mechanical lung --sref 2364390898 --ar 3:4 --c 5 --sw 500 --stylize 500 --style raw

![오늘의 Midjourney 프롬프트 입력 결과](https://cdn.maily.so/uvq5fao6z9saffgp4bguh0juqefx)

오늘의 Midjourney 프롬프트 입력 결과

[지난 Midjourney 프롬프트 보기](https://www.secondbrush.co.kr/home/?ref=blog.secondbrush.co.kr)

---

## 필요할때마다 꺼내보는 생성형 AI 가이드북

뉴스레터 '데일리 프롬프트'는 2023년 5월에 시작하여, 오랜 관심을 바탕으로 다음과 같이 책을 출간하였습니다. 일상과 업무에서 사용할 수 있는 ChatGPT프롬프트가 필요하시다면 <데일리 프롬프트 101>을, 이미지 생성 AI를 집중적으로 탐구하고 싶은 분은 <AI 원더랜드>를 추천드립니다.

![AI 원더랜드(by 안재홍), 데일리 프롬프트 101(by 최소영)](https://cdn.maily.so/4yl1qi5w7rj5d07n5sdi4k0ep4x0)

AI 원더랜드(by 안재홍), 데일리 프롬프트 101(by 최소영)