영상 링크: AI Automation that actually works: $100M, messy data, zero surprises - Tanmai Gopal, Hasura/PromptQL
채널명: AI Engineer
정말로 효과적인 AI 자동화: 1억 달러, 복잡한 데이터, 예측 없는 결과 핵심 요약
- 영상은 대형 공공 헬스케어 기업과의 협업 사례를 통해, 실제 현장에서 신뢰성 있게 동작하는 AI 프로세스 자동화의 도입 과정을 상세하게 설명함
- 해당 헬스케어 기업은 방사선 전문의 및 클리닉용 소프트웨어를 개발하며, 환자의 예약 전화를 처리하는 오퍼레이터의 복잡한 업무를 AI로 대체하는 게 주요 목표임
- 통화 한 건당 평균 12~15분이 소요되며, 통화 소요 시간 3분이 단축될 때마다 약 5천만 달러의 비용 효과 창출
- 예약 프로세스는 다양한 규칙, 절차 코드, 지역/국가 규제, 클리닉별 정책 등 복잡한 변수를 포함하여 업무 자동화가 매우 어려움
- 개발자는 모든 예외 상황을 코드화하기 어렵고, 비기술 관리자/운영자는 업무 규칙을 잘 알지만 직접 코딩은 불가함
- 이로 인해 ‘자동화의 역설’(규칙을 아는 사람은 코딩을 못 하고, 코딩을 아는 사람은 규칙을 모름) 문제가 심각하게 발생함
- 해결책으로 도메인 언어를 학습시킨 AI(LLM)와 대화하여 자연어로 규칙 및 자동화 플랜을 생성·실행하는 시스템(PromptQL/AcmeQL)을 제안·도입함
- 비기술자(관리자)가 자연어로 규칙을 지속적으로 추가, 테스트, 배포할 수 있어, 실제 업무 변화에 빠르고 정확하게 대응 가능
- 데모 예시로 복잡한 업무 규칙을 실시간으로 추가, 테스트, 수정, 배포하는 과정을 구체적으로 시연
- 보안 및 운영면에서는 데이터 계층의 엄격한 통제, 사용자별 실행 제한 등을 통해 리스크를 최소화함
- 실제 도입 시 수백억 원 규모의 효율성 및 비용 절감 효과 기대
세부 요약 - 주제별 정리
대형 헬스케어 기업의 예약 자동화 과제는 통화 시간 단축을 통해 수익성과 효율성을 대폭 높일 수 있음
- 실제 사례는 미국 및 유럽 수천 개 클리닉을 서비스하는 공공 헬스케어 기업임
- 환자가 검진 예약을 위해 전화를 걸면, 오퍼레이터가 환자의 성별, 나이, 증상, 보험, 클리닉정보 등을 바탕으로 적합한 절차 코드로 예약을 처리함
- 통화당 평균 처리시간은 12~15분에 달하며, 3분 단축마다 약 5천만 달러 이상의 경제적 효과를 창출
- 빠른 예약 처리 및 오퍼레이터 교육·운영 비용의 절감이 회사 전체 수익 구조에 직접적 영향을 끼침
기존 소프트웨어로는 수많은 예외 상황과 복잡한 규칙을 효과적으로 처리하는 데 한계가 있음
- 사용 인터페이스(UI)는 15개 이상의 탭으로 구성된 매우 복잡한 형태임
- 오퍼레이터는 데이터를 입력하며 여러 탭을 이동해야 하고, 각 환자 및 클리닉의 다양한 규칙을 준수해야 함
- 정확한 예약을 위해서는 환자 정보, 방문 이력, 법적 규제, 클리닉별 영업시간·정책 등 폭넓은 변수를 고려해야 함
- 실제 업무에서 적용되는 절차 코드의 종류와 조합은 환자, 클리닉, 지역 정책에 따라 폭발적으로 늘어남
- 예) 유방촬영술(mamogram)의 경우, 어떤 클리닉은 관련 코드가 250개, 어떤 곳은 5개뿐임
- 절차 코드의 공통 규격이 부재하며, 각 클리닉마다 고유한 규칙(운영시간, 특정 요일 휴무 등)을 적용
- 모든 규칙을 코드화하고 예외 사항을 구현하는 데 드는 비용·노력이 현실적으로 너무 큼
비기술 관리자와 개발자 간의 ‘지식과 실행의 단절’이 자동화의 큰 장애물로 작용함
- 관리자(어드민)는 실제 업무 규칙과 클리닉 내부 사정에 가장 정통함
- 하지만 관리자들은 직접 소프트웨어 코딩이나 복잡한 버전관리(DevOps) 작업이 불가능함
- 개발자는 소프트웨어 구조와 코딩은 할 수 있지만, 현장에서 발생하는 다양한 비정형 규칙을 모두 파악하거나 구현하기 어려움
- 실제로 ‘이 클리닉은 금요일엔 근무를 안한다’와 같은 소규모 규칙까지 개발자가 모두 반영할 수 없음
- 새로운 규칙이 추가될 때마다 코드와 설정의 복잡성이 지속적으로 증가하면서, 운영자 교육 및 유지보수 비용도 함께 커짐
- 이로 인해 ‘규칙을 아는 사람은 자동화하지 못하고, 자동화할 수 있는 사람은 규칙을 모른다’는 자동화의 역설이 발생
도메인 특화 자연어 AI를 활용하면 비기술자도 업무 규칙 자동화를 쉽고 빠르게 구현할 수 있음
- 새로운 접근법은 AI 모델(LLM)에 현업 도메인의 용어와 문법을 학습시켜, 비개발자도 쉽게 자동화 플랜을 작성할 수 있도록 하는 것임
- 비기술 관리자는 자신이 아는 규칙을 자연어(일상 언어)로 입력함
- AI는 기업 고유의 형식(예: AcmeQL, PromptQL 등)으로 “프로그램화 가능한 계획”을 생성함
- 이렇게 생성된 AcmeQL 플랜은 실제로 실행 가능한 결정적(deterministic) 프로그램 아티팩트로 변환되어 작동함
- 개발자의 역할은 ‘플랫폼’과 기초 데이터/도메인 정의에 집중, 현업은 실제 규칙 운용에 직접 참여
실제 GitHub 지원 업무 예시를 통해 규칙 기반 자동화 생성과 배포 과정이 구체적으로 시연됨
- 데모에서는 GitHub 이슈관리 업무(지원 담당자 자동 할당 등)에 동일 원리를 적용해 설명
- 비기술자는 “이슈 설명에 따라 관련 파일 찾고, 주요 기여자를 할당한다” 등 자연어로 업무 규칙을 작성
- AI는 데이터·용어의 의미를 학습(시맨틱 계층 지원 등)하여 실제로 적합한 담당자를 결과로 반환
- 사용자는 “자동화(automation)로 변환” 버튼 한 번으로, 입력·출력 필드만 직접 지정하고 복잡한 로직 구현 부담 없이 시스템을 구축
- 다양한 입력(예: 데이터 파이프라인이 동작하지 않는다, 데이터베이스 오류 등)에 대한 반복 테스트 및 자동화 규칙 수정이 실시간으로 가능
- 특정 상황(외부 인력 제외, 관련 파일 미존재 시 default 담당자 할당 등)도 즉각 추가 규칙으로 반영 및 테스트 가능
- 만족할 결과가 나오면 “배포(deploy)” 버튼만 눌러 실서비스에 즉시 반영
DevOps, 보안 등 비기술자 환경 문제도 전용 설계로 신뢰성을 확보함
- 비기술자가 작성한 업무 로직은 별도의 사용자 공간에서만 실행되므로, 데이터 계층의 권한·보안·접근법 제약이 엄격하게 적용됨
- 멀티테넌트 환경, 인증/인가 정책 등은 데이터 계층에서 관리되고, 자연어 업무 규칙은 안전하게 격리되어 운용됨
- 업무 자동화로 인한 데이터 유출이나 보안 사고 가능성을 최소화함
- SDLC(소프트웨어 개발생명주기) 개념을 비기술자 관점에서 재설계(테스트, 리뷰, 프로덕션 반영 등)하여 현업에 맞는 운영 체계 구현
실제 도입 결과, 업무 효율성 혁신과 대규모 비용 절감 효과가 이미 확인되고 있음
- 적용 사례(방사선예약 업무 자동화 등)에서 이미 약 1억 달러 수준의 임팩트가 발생함
- 통화 시간 단축, 오퍼레이터 운영비 감소, 예약처리량 증가 등 실제 사업상의 변화가 관찰됨
- 신속한 규칙 수정 및 자동화 반영을 통해 향후 더욱 많은 비용 절감 및 경쟁력 향상이 기대됨
향후 개발자 중심 소프트웨어 구축에서 조직 맞춤형 ‘바이브 코딩’ 플랫폼 시대로 전환될 전망임
- 기업/조직 고유의 특화 언어와 업무 규칙을 직접 AI에 담아, 현업 중심의 소프트웨어 자동화가 대세가 될 것으로 예상
- 개발자는 서비스 규칙을 코드로 일일이 구현하는 대신, 현업 관리자/운영자가 주도하는 자연어 코딩 환경(바이브 코딩)을 지원하는 인프라 구축에 집중하게 됨
- Presenter는 자신들이 개발한 PromptQL/AcmeQL 플랫폼 및 조직별 학습 기법 등에 대한 추가 정보를 알리고 강연을 마무리함