How Postman runs Agent Mode for 40 million developers on Amazon Bedrock

API 테스트나 문서 작업할 때 정말 유용하게 쓰이는 포스트맨(Postman), 다들 한 번쯤 들어보셨죠?

오랫동안 개발자들의 필수 도구였던 이 포스트맨이 무려 4000만 명의 사용자를 위한 AI 기능인 **‘에이전트 모드(Agent Mode)’**를 도입했다고 해요. 🤖

데모용 AI를 만드는 것과 전 세계 수천만 명이 쓰는 실서비스에 AI를 적용하는 것은 하늘과 땅 차이일 텐데요. 오늘 포스트맨이 아마존 베드락(Amazon Bedrock)을 활용해 이 거대한 기술적 허들을 어떻게 넘었는지 아주 쉽게 정리해 드릴게요!

전체 글 정리

1. 화면 대신 ‘데이터’를 이해하게 만들기

포스트맨은 지난 11년 동안 사람이 마우스로 탭을 열고 사이드바를 누르며 쓰는 인터페이스였어요. 하지만 AI 에이전트는 화면을 보는 게 아니라 데이터를 기반으로 생각해야 하죠. 그래서 팀은 AI가 화면 조작을 흉내 내지 않고, 백그라운드에서 직접 API를 다룰 수 있도록 구조를 바꾸었답니다.

2. 도구는 적당히, 그리고 똑똑하게!

초기에는 AI에게 아주 세세한 도구들을 전부 쥐여주었더니 문제가 생겼어요. 도구가 40개가 넘어가자 AI가 엉뚱한 도구를 쓰거나 실수를 연발했죠. 게다가 매번 결과를 기다리느라 속도도 느려졌고요. 결국 **“필요한 상황에 맞는 도구만 동적으로 제공하고, 데이터는 쿼리 엔진을 통해 한 번에 읽어오게 하자”**는 방식으로 해결했다고 해요.

3. ‘능력’보다 중요한 건 ‘문맥(Context)’

AI가 일을 잘 못 할 때, 알고 보니 도구가 부족한 게 아니라 현재 상황(문맥)을 제대로 파악하지 못해서인 경우가 많았어요. 화면에 맞춰진 복잡한 데이터를 그대로 먹이는 대신, AI가 꼭 알아야 할 핵심만 추려주는 전용 ‘콘텍스트 핸들러’를 만들어서 해결했답니다.

4. 아마존 베드락(Amazon Bedrock)으로 안정성 잡기

전 세계 개발자들이 쓰는 서비스인 만큼 트래픽이 훅 몰릴 때도 버텨야 하겠죠? 포스트맨은 아마존 베드락을 통해 직접 서버를 구축하지 않고도 다양한 고성능 AI 모델을 자유롭게 골라 쓰게 되었어요. 여기에 트래픽을 분산하는 크로스 리전 추론, 보안을 위한 데이터 보관 안 함(Zero Data Retention) 설정, 그리고 비용과 속도를 아껴주는 프롬프트 캐싱 기능까지 든든하게 챙겼답니다.

이용 방법 / 활용 방안

이번 이야기는 직접 코딩을 하지 않는 분들에게도 큰 인사이트를 줍니다.

혹시 여러분의 업무나 서비스에 AI를 도입할 계획이 있으신가요? 그렇다면 포스트맨의 사례에서 다음 두 가지를 꼭 기억해 보세요.

• 도구를 무조건 많이 주지 마세요: AI에게 할 수 있는 일을 너무 많이 쥐여주면 오히려 혼란스러워합니다. 지금 상황에 꼭 필요한 최소한의 도구만 쥐여주는 것이 핵심이에요.
• AI에게 ‘상황’을 잘 설명해 주세요: AI가 똑똑해지려면 내가 지금 어떤 일을 하고 있고, 어떤 데이터가 중요 한지 명확한 맥락(Context)을 전달하는 것이 무엇보다 중요하답니다.

결론적으로 포스트맨은 철저한 아키텍처 개선과 든든한 클라우드 인프라를 통해 대규모 AI 서비스를 성공적으로 안착시켰네요.

여러분은 이런 AI 에이전트 기능이 앞으로 우리 일상을 어떻게 바꿀 것 같나요? 😊