영상 링크: Function Calling is All You Need — Full Workshop, with Ilan Bigio of OpenAI
채널명: AI Engineer
함수 호출(Function Calling)이면 충분하다 — OpenAI의 Ilan Bigio 전체 워크숍 핵심 요약
- OpenAI의 Ilan Bigio가 함수 호출(Function Calling)의 역사, 개념, 실제 구현까지 상세히 시연하는 워크숍
- 함수 호출은 외부 데이터 조회, 상태 변경, 다중 스텝 워크플로우 등 다양한 AI 활용의 핵심 메커니즘임을 주장
- WebGPT, Meta 등 주요 연구와 OpenAI의 함수 호출 도입 과정을 연대기 별로 소개
- 함수 호출의 구조와 API 설계 방법, 함수 명세 작성 시 유의사항을 예제 기반으로 설명
- 에이전트(Agent) 패턴 구현, 메모리 저장/조회, 도구 위임, 비동기 처리까지 단계별 라이브 코딩 진행
- Swarm, PyAnTicAI 등 여러 프레임워크 비교 및 직접 경량화된 에이전트 루프 구현법 소개
- 자체적으로 함수를 생성하는 초(超)동적 구조, 실시간(Real-time) API와 음성 인터랙션 아이디어, 코드 샘플까지 구체적으로 시연
- 대규모 함수 집합 관리, 비동기 태스크-큐 디자인, 메모리 일관성 등 실전 질문 및 디자인 패턴 논의
세부 요약 - 주제별 정리
텍스트 완성에서 함수 호출까지의 발전사를 통해 외부 세계와 상호작용하는 언어모델의 진화과정을 직접 예시로 보여줌
- GPT-2/3 시기에는 단순 텍스트 완성과 제한적인 지시문 추론만 가능했음
- InstructGPT, 역할 부여(Assistant/사용자 구분) 및 WebGPT 등의 연구로 “행동(action)” 즉 도구함수 호출의 초석이 마련됨
- OpenAI의 2023년 함수 호출 API 도입으로 모델이 본질적으로 외부 툴 사용자가 될 수 있게 됨
- Meta 등 타 연구의 ‘적응적 함수 위치 삽입(log probs 기반)’ 기법도 함께 소개
함수 호출의 설계와 구현은 명확한 함수 명세, 소프트웨어 엔지니어링 원칙, 에러 방지 구조 설계 등이 중요함을 강조함
- 함수 호출은 (1) 데이터 조회 API read, (2) 상태 변경 action, (3) 멀티스텝 워크플로우 등 다양한 목적에 폭넓게 활용됨
- 함수 스키마(schema) 설계, 시스템 프롬프트 구성, 에러방지(enums/objects를 활용한 파라미터 제한 등) 필요
- 함수/도구 간 용어 구분 : 도구는 ‘함수 호출+ file search 등 확장된 개념’으로 설명
실시간 라이브 코딩을 통해, 파이썬으로 함수 호출 루프·에이전트 구조를 직접 구현하고 실제 동작 과정을 보여줌
- step1: 함수 스키마 정의 → step2: 함수 호출 파싱 → step3: 결과 재귀 반영 → step4: 사용자 응답 생성
- 아주 기본적인 함수 호출 루프부터, 기능 분리(Agent) 구현, 외부 라이브러리(Swarm)와 직접 구현을 병행해 보여 줌
- ‘에이전트는 본질적으로 반복(loop) 구조’임을 연속적인 실행 예시로 설득
메모리 기능은 첫째로 간단한 리스트/파일 저장에서 시작하지만, 검색 및 최신화 등 확장 가능성이 무궁무진함을 실전 코드로 시연함
- 대화 중 사용자의 정보(예: 키, 선호 등) 저장, get/add memory 함수 설계
- 파일(JSON 등)로 메모리 영속화 및 간단한 만료(expiry) 로직 도입
- 유사도 검색, 체인 업데이트 등 메모리 일관성 강화 아이디어 활성 토론
함수 호출의 ‘위임(Delegation)’과 ‘비동기’ 패턴은 복잡한 태스크 분배와 멀티에이전트 시스템의 핵심임을 실행 예시로 설명함
- 하나의 에이전트가 더 복잡하거나 시간이 오래 걸리는 태스크를 다른 모델(또는 에이전트)에게 위임하는 구조 실습
- 동기 코드의 응답 대기 한계를 ‘태스크 생성/진행상황 질의’ 패턴으로 극복 (비동기 문제, 큐 관리 등 실전 async 구조 완성)
- websockets, async/await, 태스크 큐 구현, 입력과 응답의 교착(deadlock) 회피 설계 원리 소개
다수의 함수 관리와 라우팅, 에이전트 핸드오프(triage/handoff) 등 실제 서비스급 설계 논의가 구체적으로 이어짐
- 함수 수십/수백 개를 관리하기 위한 라우팅(에이전트 분할), 동적 함수 로딩, 함수별 핸드오프 실코드 제공
- Flat 구조/에이전트 다중화/임베딩 기반 함수 로딩, fine-tuning 방법 등 경험 바탕의 팁 공유
- Swarm, PyAnTicAI 등 오픈 소스 프레임워크들과 커스텀 코드 직접 구현법을 비교
런타임에 코드를 ‘자기생성’하여 함수 자체를 만들어내는 초(超)동적 AI 에이전트 프로그래밍 가능성을 실습으로 증명함
- 모델이 함수(툴) 정의 프롬프트에 따라 파이썬 함수코드를 직접 생성하고, exec로 임포트하는 극단적 예시 시연
- 실제 결과 : “hello” 출력 함수, 간단 계산기 등 바로 코드로 추가 및 실행 성공
- 매우 위험한(exploit) 방식임을 경고하며도, 창의적 활용 가능성을 실시간 라이브 코딩으로 입증
실시간(Real-time) API 활용, 음성(VAD) 인터랙션, 텍스트 태스크 자동화 등 미래 활용 패턴과 Q&A를 통해 끝맺음
- 리얼타임 API 환경에서 ‘음성 종료 판단 stay_silent 함수’ 등 자동 흐름 제어 트릭 제안
- Twilio 등 실제 통화형 챗봇 데모, 로컬 함수/원격 함수 정의 방법, 실전 라우팅/큐 구현법 등 공유
- 슬랙, 실시간 질의 등으로 함수 호출 실전 패턴/성능/규모/설계법에 대한 토론과 코드 질문 폭넓게 진행
- 워크숍 전체 코드는 배포 및 공유 약속
이상은 OpenAI 개발자 경험팀 Ilan Bigio가 다양한 실전 예제와 직접 코딩, Q&A로 함수 호출의 모든 것과 실무 AI 시스템 설계의 현재 그리고 확장 가능성을 총체적으로 탐구한 1시간 40분 워크숍의 상세 요약임.