생성형 인공지능(AI)을 잘 쓰는 방법으로 ‘프롬프트 엔지니어링’이 주목받은 데 이어, AI가 업무를 수행하는 데 필요한 정보를 어떻게 구성하고 제공할지를 다루는 ‘컨텍스트 엔지니어링’(Context Engineering)이 새 과제로 떠오르고 있다. 연합뉴스는 19일 ‘테크톡노트’에서 이 흐름을 짚었다.
컨텍스트 엔지니어링은 AI가 특정 작업을 수행하는 데 필요한 지시와 정보, 데이터, 이전 대화 내용 등을 선별하고 구성해 적절한 시점에 제공하는 방식을 말한다. 예를 들어 AI에게 “다음 주 회의 자료를 작성해 달라”고 요청하는 것은 프롬프트를 활용하는 방식이다. 반면 기존 회의록과 보고서, 고객 정보, 최신 매출 자료를 함께 제공하고 어떤 형식과 기준으로 작성해야 하는지까지 설정하면 컨텍스트 엔지니어링에 가깝다. 같은 AI 모델을 쓰더라도 어떤 정보를 제공하느냐에 따라 결과가 달라질 수 있는 이유다.
데이터·업무 이력·도구·권한까지 담는 ‘맥락’
컨텍스트에는 사용자의 이전 대화와 업무 이력, 외부 문서와 데이터베이스 같은 정보뿐 아니라 AI가 활용할 수 있는 도구와 업무 규칙, 권한 설정 등이 포함될 수 있다. 필요한 정보를 적절한 시점에 제공하는 것은 물론, 불필요하거나 오래된 정보를 줄여 AI가 핵심 내용을 놓치지 않게 하는 것도 중요하다.
AI가 여러 단계를 거쳐 스스로 업무를 처리하는 ‘AI 에이전트’로 발전하면서 맥락 관리의 중요성은 더 커지고 있다. 여행 계획을 세우는 AI 에이전트라면 “여행 계획을 짜 달라”는 요청만으로는 부족하고, 여행 날짜와 예산, 출발지, 숙소와 항공편 선호도를 파악해야 한다. 예약이나 결제 단계에서는 사용자가 허용한 권한과 승인 여부도 고려해야 한다. 업무용 AI가 잘못되거나 불완전한 정보를 받으면 그럴듯하지만 실제 상황과 다른 결과를 내놓을 가능성도 커진다.
AI 업계에서는 프롬프트를 한 번 잘 쓰는 능력을 넘어 AI가 필요한 정보를 찾아 활용할 수 있도록 데이터와 도구, 권한을 설계하는 역량이 중요해지고 있다는 분석이 나온다. 자동차에 목적지만 입력하는 것이 프롬프트 엔지니어링이라면, 컨텍스트 엔지니어링은 교통 상황과 도로 정보 같은 주변 조건까지 반영해 최적의 경로를 찾게 하는 것에 비유된다.
관련 뉴스 바로가기
[테크톡노트] 같은 AI인데 결과는 왜 다를까…답은 '컨텍스트' (연합뉴스)
