Ship it! Building Production Ready Agents - Mike Chambers, AWS

영상 링크: Ship it! Building Production Ready Agents — Mike Chambers, AWS
채널명: AI Engineer

프로덕션 준비된 AI 에이전트 빌드 및 배포: AWS에서 구현하기 핵심 요약

• AWS 개발자 홍보대사 마이크 챔버스가 생성형 AI에 특화된 경험을 바탕으로 프로덕션 수준의 AI 에이전트 빌드 및 클라우드 배포 방법을 실전 예제로 시연함
• 첫 번째 단계로, 단일 파이썬 파일·로컬 환경에서 주사위를 굴리는 도구와 에이전트 구성 예시를 보여줌
• 에이전트는 시스템 프롬프트, 툴 설명, 사용 예제(특히 D20, 20면 주사위)를 포함하며, Llama 3.1(8B 파라미터, 로컬 노트북 구동)을 활용
• 모델·프롬프트·에이전틱 루프·대화 이력 기록·툴 등, 에이전트의 구성요소와 각각이 클라우드 확장이 필요한 이유를 체계적으로 설명
• AWS Bedrock 플랫폼은 Anthropic, Amazon Nova, Meta, Mistral 등 다양한 사전 학습 모델과 완전 관리형 에이전트 및 액션 그룹(도구 집합) 제공
• Lambda 함수(서버리스 함수)가 도구 실행을 담당하며, 인프라 관리 없이 확장성 및 외부 서비스 연동이 간단하게 구현됨
• AWS 콘솔에서 실제로 에이전트 생성, 모델 연결, 액션 그룹 설정, 도구 파라미터 지정(자연어로 LLM이 읽을 수 있음) 과정을 실시간 데모
• Lambda 코드 예시에서는 파라미터로 전달받은 면수를 이용하여 주사위 결과를 생성해 반환하며, Amazon Q Developer를 통한 코드 자동완성도 시연
• 프로덕션 환경 배포 과정에서 별도 에이전트 alias, 테스트 및 라이프사이클 관리 및 실서비스에서의 무중단 확장 등 실무적 세부사항 언급
• AWS 계정만 있으면 Amazon Bedrock 에이전트 실습이 무료로 가능하며, 별도의 오픈소스 SDK와 추가 교육 자료 제공을 안내
• 전체적으로 단순한 로컬 에이전트에서 시작해, AWS Bedrock을 통한 대규모 클라우드 운영 전환 과정을 단계별로 현실적으로 전달함

세부 요약 - 주제별 정리

AWS의 생성형 AI 전문성과 강의자 소개로 신뢰성 확보

• 강연자는 Amazon Web Services(이하 AWS) 개발자 홍보대사 마이크 챔버스(Mike Chambers)
• 오직 생성형 AI(GPT 등)에만 집중하고 있으며 기존에는 머신러닝 전반을 담당
• 구글의 앤드류 응(Andrew Ng) 및 AWS 동료들과 함께 “LLM Fundamentals” 온라인 코스 개발, 37만 명 이상 수강 성과
• 실제 AI 엔지니어 및 트랜스포머(Transformers) 애니메이션을 언급해 청중의 흥미 유도
• 현장 코드는 모두 사전녹화이지만, 실제 실시간 과정임을 강조

로컬 환경에서 작동하는 단순 에이전트 예제로 원리 설명

• 파이썬 단일 파일로 동작하는 기본 에이전트 구조 시연: 특별한 프레임워크 없이도 구현 가능하나 비효율적임
• 본 예제에서의 도구(tool)는 난수 생성자를 활용·“주사위 굴리기(roll dice)“로 명명
• Llama 3.1 (8B 파라미터, 경량화 모델) 로컬 노트북에서 구동
• 코드 내 시스템 프롬프트에는 사용 가능한 툴 설명 및 D20 예시(20면체 주사위) 등을 명시
• 사용자가 “roll for initiative and add a dexterity modifier of 5” 요청 시, 자연어→도구 호출→결과 반환(랜덤값+보정치)
• 출력 예시: 주사위 20면 굴림 결과 10 + 5 → 최종 15 반환

에이전트의 구성요소와 각각의 역할을 구조적으로 해설

• 1. 모델(Model): 자연어 이해·처리 담당, 이미 다양한 고성능 모델이 존재해 활용이 쉬움
• 2. 프롬프트(Prompt): 에이전트의 정체성, 목적, 성격을 알려주는 부분(특히 시스템 프롬프트/설명문)
• 3. 에이전틱 루프(Agentic Loop): 입력 해석→도구 호출→결과 평가→루프 반복, 실질적으로 while문 기반의 문자열 처리 구조
• 4. 대화 히스토리(History): 현재 요청뿐 아니라, 내부적으로 일련의 추론과 도구 활용 이력을 연속적으로 저장·활용
• 5. 툴(Tool)/함수: 에이전트가 실제로 세상에 영향력을 행사하는(agency) 부분, 외부 액션을 담당
• 이 외의 부가 요소도 있을 수 있으나, 현장에서 제시한 최소 구성에 집중

AWS Bedrock 및 파트너 모델 활용을 통한 클라우드 에이전트 구성

• AWS Bedrock은 Anthropic, Amazon Nova, Meta, Mistral, AI21 Labs 등 여러 모델을 통합 제공하는 API 허브
• 엔지니어는 필요에 따라 적합한 모델을 선택/교체 가능
• “Managed Agents” (Amazon Bedrock Agents)는 인프라 관리 필요 없이 자동으로 확장 가능
• 프롬프트(Instruction)는 시스템 프롬프트와 프롬프트 템플릿이 결합되어 동작하며, 템플릿 커스터마이즈도 지원
• 액션 그룹(Action Group)은 도구 집합, 여러 개 추가 가능하며 베스트프랙티스 공개
• Lambda(람다)는 함수형 서버리스 플랫폼, 확장성·연동성·외부 서비스 호출 등 지원

콘솔 실습: 에이전트 생성부터 도구 연결, 파라미터 정의까지의 구체적 흐름

• AWS 콘솔에서 Bedrock 에이전트 메뉴로 이동, “Create Agent” 클릭 후 이름·설명 작성(향후 식별성 확보를 위해 중요)
• 모델 선택에서 Amazon Nova 또는 Anthropic Haiku 3.5 (속도와 기능성 강조)를 예시로 지정
• Instruction(설명문)에 “게임 마스터로서 TRPG(테이블탑 RPG) 게임을 도와주는 에이전트” 등 역할 명확화
• 액션 그룹 추가 단계에서 그룹 이름/설명 기재, LLM이 자연어 설명을 읽고 도구 인식
• 액션 그룹 내부에서 Lambda 연결 시 Quick Start 선택시 추천, 람다 생성 및 권한 자동 연동 지원
• 도구(roll dice) 추가 시, 세부 설명 및 파라미터(면수 등의 정수)도 자연어로 상세히 묘사하여 LLM 활용성 강화
• 파라미터는 “정수형, 필수 값” 등 타입 지정, 도구의 입력 조건을 명확히 기술
• 모든 설정 완료 후 액션 그룹 저장, Lambda 함수에 코드 추가 단계로 진행

Lambda 함수 안에서의 실제 코드 작성과 자동완성 사용 예시

• AWS 콘솔 내 Lambda 편집기에서 파이썬 코드 작성: “roll dice” 호출 파라미터 처리 및 난수 생성
• event 인자에서 호출 함수명, 파라미터 추출하여 조건 분기 및 값 생성
• Amazon Q Developer(코드 어시스턴트) 자동제안을 통해 반복작업 신속 처리
• 반환 값 구성, boilerplate 정리 후 배포(Deploy) 버튼 클릭으로 실서버 반영
• 람다 함수가 에이전트의 도구 역할을 클라우드 환경에서 완전 수행

프로덕션 환경으로의 배포와 신뢰성, 라이프사이클 관리 요소 설명

• 배포 시 ‘에이전트’와 ‘alias(별칭)’ 활용, 버전·개발/운영 환경 분리 지원
• 개발부터 운영에 이르는 전체 소프트웨어 라이프사이클 고려
• 다양한 인프라 자동화 도구(Terraform, Palumi, CloudFormation, AWS SDK, SAM 등)와 연동 가능성도 언급
• 실환경에서는 에이전트 준비, 테스트, 롤백 등 주요 단계별 조치가 중요

실시간 테스트와 동작 결과 등 실증적 시연

• 콘솔 내에서 “더 자연스러운 문장”으로 주사위 굴리기 요청 및 결과 확인
• 에이전트가 완전관리형 환경에서 클라우드 확장성을 갖추고 즉시 응답
• 테스트 결과 “15”(ex: 주사위+보정치) 등으로 정상 처리됨 강조

추가 리소스 및 오프라인·실시간 확장 안내

• 딥러닝.ai와 협력한 무료 LLM 강의, AWS 실습 계정 지원 안내
• 오픈소스 SDK 및 모델 퍼스트 에이전트 개발 안내는 본 발표에는 미포함, 별도 문의 권장
• 현장 D20(입체 주사위) 실물 증정 등 참가 독려 및 커뮤니티 활동 장려