자체 LLM·외부 AI ‘이원화’ 운영… 보안과 효율 동시에 확보 RAG 기반 근거 중심 답변… 문서 작성·업무지원까지 AI 활용 확대 시민용 ‘서울톡’에도 생성형 AI 적용… 최신 정보 반영한 답변 제공 한국디지털뉴스 김형종 기자ㅣ서울시는 생성형 인공지능(AI)을 행정 전반에 적용한 ‘챗봇 2.0’을 오는 5월부터 본격 운영한다고 11일 밝혔다. 공무원 업무 지원부터 시민 상담까지 하나의 AI 체계로 통합한 것이 핵심이다.
챗봇 2.0’은 시 행정망 내부에 구축한 대규모 언어모델(LLM)을 기반으로 한 직원용 AI 행정 지원 서비스와 생성형 AI를 적용해 기능을 강화한 시민용 챗봇 ‘서울톡’으로 구성된다. 시는 직원용 행정 지원과 시민용 서비스에 생성형 AI를 적용하여 행정과 서비스 전반의 혁신을 도모하는 ‘서울형 AI 행정 모델’을 구축했다. 시는 보안이 요구되는 행정 환경을 고려해 행정망 내부에 자체 LLM을 구축했다.
이를 기반으로 질의응답, 문서 생성·요약·분석 등 다양한 AI 행정 지원 기능을 제공한다.270종의 행정 업무매뉴얼을 기반으로 검색증강생성(RAG) 체계를 구축해 자연어 질의 시 근거 기반 답변과 출처를 함께 제공한다. 또한 LLM API를 통해 타 행정 시스템에서도 생성·요약·분석 기능을 활용할 수 있도록 연계 기반을 마련했다.
시는 보안성과 활용성을 동시에 확보하기 위해 자체 LLM과 외부 생성형 AI 서비스를 병행하는 ‘이원화 운영체계’를 구축했다. 시는 ‘챗봇 2.0’을 기반으로 올해 말 AI 에이전트를 시범 적용할 계획이다. 강옥현 시 디지털도시국장은 “챗봇 2.0은 공무원에게는 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것” 이라며 “앞으로도 지속적인 고도화를 통해 시 행정의 AI 전환을 가속화하겠다”고 말했다.
| 
서울시,생성형 AI로 행정 혁신
1 
