“이제 중요한 것은 단순한 ‘AI 경쟁력 확보’가 아니라, 우리 조직에 최적화된 방식으로 AI를 신속하게 도입하고 실질적으로 정착시키는 ‘전략적 전환’입니다. 여기에 ‘은총알’과 같은 정답은 없습니다. 상용 솔루션을 활용해 우리 조직에 맞는 AX방안을 빠르게 찾아내야 합니다.”
KT의 AX(AI Transformation) 전문 조직, AXD본부를 이끄는 김훈동 상무는 10일, 용산에서 열린 ‘Gen AI Seoul 2025’ 포럼에서 위와 같은 견해를 밝혔다. 국내 주요 기업의 AX 책임자들이 모여 각 사의 실질적인 혁신 사례를 공유하고 산업 전반에 AI 도입과 확산 전략을 논의하는 자리였다.
챗GPT가 지난 ‘22년 11월 공식 출시된 이후, 불과 2년 반 만에 생성형 AI는 단순한 검색·요약 기능을 넘어 고차원적 추론과 문맥 인식까지 가능한 수준으로 진화했다. AI 에이전트 역시 실질적 상황을 고려한 액션을 수행할 수 있게 돼 산업 현장에 빠르게 적용되고 있다.
▶ KT, AI 활용한 대표적 비즈니스 효율화 사례 소개
KT는 AICT 회사로서 이와 같은 흐름을 적극 선도하고 내부 업무에 AX 혁신을 실현하고 있다. 김훈동 상무는 KT의 대표적인 B2E(Business to Employee) 혁신 사례로 ‘통신 인프라 관리’와 ‘반복 보고 작업’에 도입된 AI 에이전트를 소개했다.
첫 번째 사례는 네트워크 운영 분야에 특화된 ‘AI 마이스터’다. KT는 원활한 통신망 운영을 위해 24시간 상시 네트워크 운영 체계를 갖추고 있다. 만약 장애나 문제가 발생하면 전문 엔지니어인 ‘마이스터’가 현장에 투입된다.
이 과정에서 AI 마이스터는 대화형 인터페이스를 통해 장애 징후 감지, 문제 해결 매뉴얼 탐색 등을 자동화해준다. 마이스터의 초동 대응을 지원하는 것이다. 실제 현장에서 새롭게 업무를 맡은 인력은 물론 몇 십년의 경력으로 네트워크 운영에 숙련된 인력들도 AI 마이스터를 유용하게 활용하고 있다.
두 번째 사례는 ‘마켓 센싱 리포트 에이전트’다. 기존 KT에는 시장 동향을 파악해 분석 보고서를 작성하는 업무가 있었다. 수작업이었던 업무를 이제는 AI 에이전트가 100% 대체했다. 일주일 단위로 갱신되던 분석 보고서를 이틀 간격으로 받아볼 수 있게 됐고 보고의 양도 10배 이상 증가했다. 이르거나 늦은 시간에도 시장 동향을 파악할 수 있는 것도 또다른 혁신이다.
▶ 기업 AX, “은총알 같은 정답 없지만 빠른 실험과 상용 솔루션 활용 필수”
김훈동 상무는 KT의 혁신 사례를 소개하며 기업마다 처한 환경과 인프라가 다르기 때문에 모든 기업이 같은 방식으로 AX를 이룰 수는 없다고 강조했다. KT는 실제 AI 활용 사례를 기반으로 점진적이고 체계적인 플랫폼, 서비스화를 추진하는 전략을 시도하고 있다. 이러한 다수의 경험을 통해 다른 산업에서도 참고할 수 있는 ‘AX 방법론’을 제시했다.
김훈동 상무는 대규모 언어 모델(LLM)을 기업에 적용할 때, 충분한 데이터와 GPU 리소스 확보가 필요하다며 과거, ‘비용’과 ‘보안’ 이슈 때문에 온프레미스(On-premise, 자체 서버를 구축하는 방식) 환경에서 AX를 시도했던 기업이 많다고 밝혔다.
그러나 온프레미스 환경은 빠르게 변화하는 AI 시장에서 기술의 발전 속도를 따라잡기에 역부족이었다. 결국 민첩한 상용 플랫폼 기반의 ‘퀵 윈’(Quick Win, 단기간 내 눈에 보이는 성과를 도출하는 방식) 이후, 비용이나 속도 등을 고려해 최적의 하이브리드 환경 및 SLM을 활용하는 것이 현실적인 대안이 됐다고 설명했다.
KT는 현재 SOTA(State of the art, 최신 최고 성능)급 프런티어 모델을 기반으로 고객사의 문제를 빠르게 해결하고 실질적인 결과물을 도출하는 전략을 실행하고 있다. 상용 플랫폼과 SOTA 모델을 통한 빠른 프로토타이핑 이후, 비용(Cost), 응답 속도(Latency), 처리량(Throughput), 보안(Security), 규제(Regulation) 등의 요소를 복합적으로 고려해 최적화를 시도하는 ‘선 적용-후 최적화’ 모델이다. 이를 통해 기업들은 AI 도입의 효과성을 먼저 검증한 뒤, 좀 더 실질적인 혁신을 이뤄낼 수 있게 된다.
생성형 AI의 도입은 단순한 기술 구현을 넘어, 기업 운영 패러다임 자체를 전환하는 전략적 선택이다. 김훈동 상무는 토론 말미에 “KT의 축적된 경험을 기반으로 대한민국 산업계가 직면한 과제를 해결하는 데 기여하고, 나아가 글로벌 AI 프런티어로 도약하겠다”라는 포부를 밝혔다.
※ 사진 설명
[사진1~3] KT AXD본부장 김훈동 상무(오른쪽 첫 번째)가 10일 용산에서 열린 Gen AI Seoul 2025 포럼에서 기업의 AX에 대한 토론을 하고 있다.
