Introducing Agent Memory on Databricks

인공지능(AI) 비서랑 대화하다 보면, “아까 그 얘기 또 해야 하네?” 하고 답답했던 적 혹시 없으신가요?

AI가 지난 대화를 자꾸 까먹으면 매번 똑같은 설명과 교정을 반복하게 되죠. 개발자들도 이 문제를 해결하려고 머리를 싸매곤 했는데요. 이번에 데이타브릭스에서 AI가 사용자의 중요 정보와 선호도를 기억해 똑똑하게 일할 수 있도록 돕는 기능을 선보였어요. 어떤 내용인지 함께 살펴볼까요?

전체 글 정리

AI에게 기억력이 필요한 이유

• 기억력이 없는 AI는 중요한 사실을 매번 새로 찾아내거나 사용자의 선호도를 잊어버리고, 이미 고쳐준 실수를 반복하는 문제가 있어요.
• 개발자들이 직접 기억장치를 만들려고 해도 어디에 저장하고 어떻게 불러와야 할지 복잡한 고민이 생기죠.
• 데이타브릭스는 이런 번거로움을 덜어주기 위해 AI가 핵심 사실과 작업 방식을 기억할 수 있는 기능을 내놓았어요.

똑똑하고 효율적인 기억 구조

• 데이타브릭스의 에이전트 메모리는 ‘MemCurrent’라는 최신 연구 아키텍처를 기반으로 만들어졌어요.
• 대화 내용을 자동으로 기록하고 불러오는 기능, AI가 필요할 때 꺼내 쓰는 도구, 그리고 백그라운드에서 기억을 깔끔하게 정리해 주는 똑똑한 파이프라인이 합쳐져 있답니다.
• 내부 테스트 결과, 이 기억 구조를 적용한 AI는 실제 업무에서 성공 확률이 약 3배 높아졌고 사용하는 데이터 양도 31% 줄었다고 해요.

안정적이고 빠른 실행 환경

• 이 모든 기능은 레이크베이스(Lakebase) 기반으로 작동해서 속도가 매우 빠르고 안정적이에요.
• 별도의 복잡한 시스템을 따로 구축할 필요 없이 기존 작업 환경에서 바로 활용할 수 있는 것이 큰 장점이죠.
• 이미 자연어 분석 서비스인 지니(Genie)에도 이 기술이 적용되어 안정성을 입증받았어요.

이용 방법 / 활용 방안

• 기존 에이전트에 기억 더하기: 개발 도구(CLI)를 활용하면 단 몇 분 만에 기존 에이전트나 새로 만드는 에이전트에 기억 기능을 붙일 수 있어요.
• 맞춤형 서비스 경험하기: 사용자와의 이전 대화 내용을 기억하기 때문에, 다음 접속부터는 AI가 내 취향과 이전 작업 내역을 반영해 훨씬 자연스럽고 개인화된 답변을 제공해요.
• 실무 적용 검토하기: 데이타브릭스의 에이전트 개발 플랫폼을 통해 데모 수준에 머물던 AI 기능을 실제 업무와 일상생활에 유용한 수준으로 업그레이드해 볼 수 있어요.

AI가 매번 내 지난 대화를 기억하고 알아서 척척 맞춰준다면 업무 속도가 훨씬 빨라질 것 같죠? 여러분이라면 이 기억하는 AI 기능을 어떤 일에 가장 먼저 써보고 싶으신가요?