📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

프롬프트의 몰락, 프롬프트 엔지니어링의 충격 근황

소소한 AI 입문 노트8:03

Transcription

여러분 혹시 이런 경험 있으신가요? 재미나이나 GPT가 아까 얘기했던 걸 계속 까먹길래 "야, 아니 내가 아까 위에서 말했잖아. 왜 자꾸 까먹어?" 했더니 "와, 너 정말 핵심을 찔렀어"라며 오히려 우리 속을 뒤집어 놓는 경험 분명 있으실 겁니다.

또 이렇게 열받는 게 싫어서 프롬프트 고민하느라 10분, 20분 아까운 시간을 그냥 보낸 경험도 분명히 있으실 거고요.

자, 오늘 영상 한 줄 요약부터 말씀드리겠습니다. 이제 AI는 질문 잘하는 사람이 아니라 환경을 잘 세팅해 주는 사람의 도구가 됐습니다.

많은 분들이 AI를 잘 쓰려면 질문을 기가 막히게 하는 법, 즉 프롬프트를 잘 써야 한다고 생각합니다. 하지만 충격적인 사실을 하나 말씀드릴게요. 최근 AI 업계의 판도가 완전히 뒤집혔습니다. 우리가 그토록 열심히 배웠던 프롬프트 잘 쓰는 방법, 즉 프롬프트 엔지니어링이 이제는 더 이상 핵심 기술이 아니라는 그런 말이 나오고 있죠.

이건 그냥 떠도는 소문이 아닙니다. 오픈 AI의 공동 창업자이자 AI 분야의 상징적인 인물인 안드레이 카파시나 그리고 오픈 AI의 CO 브레드 라이트캡 같은 AI 핵심 관계자들이 최근 아주 의미심장한 화두를 던졌습니다. "프롬프트 엔지니어링, 앞으로는 사라질 것이다. 나는 복잡한 프롬프트보다 맥락을 훨씬 더 좋아한다."

어, 좀 이상하죠? 지금까지 우리는 프롬프트를 잘 쓰는 사람이 AI를 잘 쓰는 사람이라고 배워 왔으니까요.

그런데 핵심은 이겁니다. AI가 맥락을 잃어버리고 있다는 거. 이 맥락이 없으면 AI는 매번 새로 태어난 것처럼 답을 합니다. 질문 하나만 보고 그때그때 판단을 하는 거죠.

그런데 여기서 중요한 사실 하나. 사실 우리는 이 문제를 해결하는 방법을 이미 알게 모르게 사용하고 있습니다. 제가 요리를 할 줄 몰라도 부대찌개에는 햄이 있어야 한다는 것을 알고 있는 것처럼 말이죠.

우선 가장 중요한 질문을 먼저 해 보겠습니다. 방금 말한 어깨 관계자들이 말하는 맥락이라는 건 도대체 뭘 말하는 걸까요? 제가 아주 쉬운 비유를 하나 들어 드릴게요. 오늘 이것만 기억하셔도 영상 본 게 아깝지 않을 겁니다.

여기 요리를 꽤나 잘하는 기필대 씨가 있습니다. 영어 이름 초성만 따서 GPT이라고 부르겠습니다. 이 GPT에게 종이 한 장을 쥐여 줄 건데요. 이 종이에는 GPT군이 만들어야 할 요리의 레시피, 도구 리스트 등이 있습니다. 자, 이제 이 GPT을 아무것도 없는 깊은 산골짜기에 떨어뜨릴 겁니다. GPT이 맛있는 요리를 할 수 있을까요? 절대 불가능할 겁니다. 아마 땀 뻘뻘 흘리면서 잡초 몇 개 뜯어 놓고 샐러드라고 내놓기는 하겠죠. 그리고는 우리가 "야, 너 음식 잘한다며? 이거 샐러드 아니잖아" 하면 "와, 너 핵심을 찔렀어"라고 할 겁니다.

우리가 여태까지 고민하면서 썼던 프롬프트가 바로 GPT군이 손해지고 있는 이 종이 한 장입니다. 이 종이에 "너는 미슐랭 쓰야"라고 바꿔 쓴다고 해서 잡초 샐러드가 아닌 최고급 스테이크가 나올 수 있을까요?

자, 반대로 생각해 보겠습니다. 난부럽지 않게 요리를 할 줄 아는 우리 GPT군이 최상급 한우가 냉장고에 가득하고 잘 갈린 칼이 세팅되어 있으며 심지어 육수까지 다 끓여져 있는 최상급 주방에 떨어뜨려 놓고 스테이크 담당을 맡기면 어떨까요? 아마 아까 쥐어준 종이도 필요 없이 "스테이크 해 줘" 이 한마디로 10분 뒤에 우리 앞에는 정말 맛있는 최고급 스테이크가 놓여 있을 겁니다.

이게 바로 업계에서 얘기하는 맥락. 다시 말해 컨텍스트 엔지니어링입니다. 우리는 지금까지 레시피, 즉 프롬프트를 어떻게 더 잘 쓸까에만 목을 맸습니다. 하지만 실제로 결과물의 퀄리티를 결정하는 건 프롬프트가 아니라 AI가 일할 수 있는 환경 그 자체입니다. 이래서 요즘 업계에서 프롬프트는 필요 없다. 맥락이 중요하다고 하는 거죠.

자, 이제 좀 더 현실적인 이야기로 넘어와 보죠. 그럼 그 거창한 컨텍스트 엔지니어링 도대체 어떻게 하는 건데? 사실 우리는 제가 영상 초반에 말했던 것처럼 이미 이러한 컨텍스트 엔지니어링을 알게 모르게 사용하고 있습니다. 구글이나 오픈 AI 개발자들이 만들어 놓은 시스템을 활용하고 있는 건데요. 우리는 이 기능을 사용하면서도 그게 얼마나 중요한지 잘 몰랐을 뿐입니다.

첫 번째, 사용자 지침. 재미나이의 잼스, 체츠피pt의 GPT스인데요. 이게 바로 GPT군이 담당했던 스테이크 파트입니다. 쉽게 말해서 스테이크만 구워도 되는 거죠.

두 번째, 검색 증강 생성. 우리가 자료 조사할 때 하는 딥 리서치나 자료를 첨부해 주는 건데요. 이 최신 자료들이 바로 GPT군에게 주어졌던 신선한 투불 한우인 셈입니다.

세 번째, 각종 앱 연동. 제미나이의 Gmail 연동, GPT의 어더비 연동 등 AI 두란에서 다른 도구를 호출하는 겁니다. 바로 GPT군에게 잘 드는 칼을 지어 주는 거죠.

네 번째, 메모리 기능. 최근 재미나이와 체 GPT 모두 기억 기능이 강화됐죠. "스테이크의 두께는 항상 5cm여야 해. 스테이크의 굽기는 앞뒷면 2분씩 굽고 3분을 레스팅해줘." 같은 레스토랑의 규칙을 메모리에 넣는 겁니다.

개인적으로 가장 강력하게 느껴졌던 건 첫 번째 말했던 사용자 지침인데요. 왜냐하면 지침 상항에 뭘 놓고 빼느냐에 따라서 진짜 두 번 일할 거를 한 번 일하게 만들어 줍니다. 여러분도 잼스나피티스 혹은 프로젝트의 사용자 지침에 뭘 넣어야 할지 고민해 보셨으면 좋겠습니다.

여기서 우리가 이 맥락의 목숨을 걸어야 하는 진짜 이유가 하나 더 있습니다. 단순히 지금 글 하나 그림 하나 잘법자는게 아닙니다. 바로 내년부터 본격적으로 시작될 AI 에이전트 시대 때문입니다.

지금까지 우리는 AI와 채팅을 했습니다. 우리가 시키면 AI는 뭐 글 써 주고 이미지 만들어 주고 뭐 영상 생성해 주는 정도였죠. 하지만 앞으로 다가올 AI 에이전트는 다릅니다. 내 컴퓨터 마우스를 직접 잡고 알아서 행동을 하기 때문이죠.

예를 들어 볼까요? "이번 휴가 때 갈 비행기 표미해 줘"라고 하면 AI가 직접 예약 사이트에 들어가서 결제까지 끝내는 시기죠. 그런데 이때 AI에게 나라는 사람의 맥락이 없다면 어떻게 될까요? 나는 부산에 사는데 뜬금없이 인천 출발표를 끊어 버리거나 무릎이 아파서 적가 항공사는 못 하는데 가장 싼 표를 덜컥 결제해 버릴 수도 있겠죠.

결국 다가올 미래의 AI 활용 능력은 프롬프트를 얼마나 길게 쓰느냐가 아니라 나라는 사람의 설명서를 AI에게 얼마나 완벽하게 입력해 두었는가 여기서 판가음 날 겁니다. 이런 사소한 맥락들이 쌓여서 알아서 잘 딱 깔끔하고 센스 있게 척해내는 비서가 되기 때문이죠.

그런데 여러분 제가 말하지 않은게 하나 있다는 것을 혹시 알고 계신가요? 바로 GPT이 들고 있던 레시피 프롬프트입니다. 우리가 요리를 맛있게 하려면 맛있는 레시피는 당연히 필요하죠. 하지만 GPT군처럼 요리를 어느 정도 할 줄 안다면 레시피보다는 그 외 부분들이 더욱 중요할 겁니다.

이처럼 컨텍스트 엔지니어링이 된다고 해서 프롬프트가 완전히 사라지진 않습니다. 사실 좋은 레시피를 줄 수 있는 것도 그만큼 실력 있는 레스토랑, 즉 좋은 환경이라는 거니까요. 다시 말해서 푸룸프트는 사라지기보다는 컨텍스트에 흡수된다고 표현하는 것이 좀 더 정확할 것 같습니다. 컨텍스트 엔지니어링 안에 프롬프트가 있는 거죠.

전 이렇게 생각해요. AI를 파트너라는 관점으로 접근하면 아, 이건 공부해야 할 새로운 숙제가 아니구나. 이미 내가 쓰고 있는 기능들을 정리만 잘하면 되는구나 하고 어렵지 않게 느껴지죠.

그래서 저는 감히 이렇게 말씀드립니다. AI를 단순한 검색 도구가 아니라 나와 함께 호흡을 맞추는 파트너로 보고 그에 걸맞은 작업 환경을 맞춰 가는 것. 이게 우리에게 AI를 더욱 친근하게 만들어 줄 겁니다.

혹시 오늘 영상을 보시면서 "아, 나도 그동안 정글의 GPT만 던져 놓고 닭달하고 있었구나" 하고 뜨끔하셨던 분들 계신가요? 그렇다면 댓글로 여러분의 경험을 공유해 주세요. 혹은 제 바뀐 영상 스타일은 어떤지 이해하시기에 편했는지 아니면 더 불편한지 피드백을 주셔도 좋습니다. 제가 답글 달 수 있는 건 전부 달아드릴게요.

저는 다음 영상에서는 이 컨텍스트 엔지니어링을 어떻게 하면 더욱 더 잘 쓸 수 있는지 그리고 뭘 넣어야 하고 뭘 빼야 하는지 이런 영상으로 찾아오겠습니다. 영상이 도움이 되셨다면 구독과 좋아요 부탁드립니다. 감사합니다.