대기업이 생성 AI 배포를 관리하는 방법
거의 3년 동안 GenAI(제너레이티브 AI)는 전 세계 기업의 상상력을 사로잡아 고객 경험을 혁신하고 생산성을 높이며 새로운 수익원을 창출할 것을 약속했습니다.
그러나 오늘날 많은 대규모 조직은 과장된 광고 뒤에 숨은 현실로 인해 어려움을 겪고 있습니다. 자문 및 시장 조사 회사는 기업이 GenAI의 진정한 잠재력과 한계를 놓고 고군분투하는 가운데 GenAI를 환멸 단계에 확실히 놓았습니다.
HCLTech의 부사장.
업계 전반에 걸쳐 투자가 계속되고 있지만, 많은 기업은 느리고 측정 가능한 수익으로 인해 좌절감을 느끼고 있습니다. 이 중요한 단계에서 고위 비즈니스 및 기술 리더들은 다음과 같이 묻고 있습니다. 실제 비즈니스 가치를 제공하고 Gartner가 예측하는 2025년까지 포기될 GenAI 프로젝트의 30%에 참여하지 않도록 GenAI의 배포 및 확장을 어떻게 관리할 수 있습니까?
기업은 GenAI를 확장하는 데 어떤 어려움을 겪고 있나요?
GenAI를 채택하려는 대기업은 열악한 데이터 품질, 부적절한 위험 통제, 비용 상승 및 불분명한 비즈니스 가치를 포함하여 프로젝트가 생산에 도달하기 전에 탈선할 위험이 있는 여러 가지 실질적인 문제에 직면해 있습니다.
가장 큰 장애물은 투자와 즉각적인 수익 사이의 불일치입니다. 또 다른 주요 과제는 조직의 준비 상태입니다. 많은 기업에는 GenAI를 대규모로 지원할 수 있는 AI 활용 능력과 데이터베이스가 부족합니다.
미성숙한 조직은 올바른 사용 사례를 식별하는 데 어려움을 겪고 비현실적인 기대치를 갖는 반면, 성숙한 기업은 인재 부족에 직면하고 팀에 GenAI 활용 능력을 심어주어야 합니다. 다른 AI 모델과 마찬가지로 GenAI 시스템도 훈련된 데이터만큼만 우수하기 때문에 데이터 품질을 보장하는 것도 지속적인 과제입니다.
열악한 데이터는 신뢰할 수 없는 결과로 이어집니다. 거버넌스 및 위험 통제는 모델 오류, 편견과 같은 문제를 해결하고 EU의 미래 지향적이고 법적 구속력이 있는 AI 법률과 같은 새로운 규정을 준수하는 얼리 어답터와 씨름하는 경우가 많습니다.
이러한 모든 과제는 GenAI 채택이 기술 문제일 뿐만 아니라 사람과 프로세스 문제이기도 함을 강조합니다. 부서 간 동의 없이는 고립된 혁신 노력이 실패하며, 비즈니스 요구와 별개로 수행되는 프로젝트는 명확한 비즈니스 결과를 제공하지 못할 위험이 있습니다.
조직은 어떻게 GenAI 프로젝트 실패를 방지하고 가치를 창출할 수 있습니까?
GenAI 이니셔티브를 파일럿에서 생산으로 전환하려면 기업은 처음부터 전략적이고 가치 중심적인 접근 방식을 취해야 합니다. 첫째, 명확한 비즈니스 사례와 성공 지표를 확립하는 것이 중요합니다.
AI를 자체적으로 배포하는 대신 기업은 GenAI가 실제 문제를 해결하거나 고객 서비스 대기 시간 단축, 비용이 많이 드는 수동 프로세스 자동화 등 측정 가능한 개선을 실현할 수 있는 영향력이 큰 사용 사례를 식별하는 것부터 시작해야 합니다.
동시에 조직은 정보에 입각한 투자 결정을 내리기 위해 이니셔티브의 전체 비용과 잠재적인 비즈니스 가치를 사전에 엄격하게 분석해야 합니다.
또 다른 모범 사례는 첫날부터 강력한 부서간 협업을 육성하는 것입니다. 성공적인 GenAI 프로그램은 IT, 데이터 과학, 사업부 및 위험 관리 간의 사일로를 무너뜨립니다.
이러한 다기능적 접근 방식을 통해 기술 팀은 비즈니스 상황과 가치 동인을 이해하는 동시에 비즈니스 이해관계자는 AI의 기능과 한계에 대한 정보를 지속적으로 얻을 수 있습니다. 팀 간 협업을 촉진하면 모든 수준의 사람들이 정보에 입각한 결정을 내리고 함께 혁신을 추진할 수 있습니다.
한 가지 접근 방식은 이니셔티브를 옹호하고 비즈니스 전략에 맞춰 조정하며 윤리 및 규정 준수 고려 사항을 감독할 수 있는 다양한 부서의 대표로 구성된 “AI 위원회” 또는 이와 유사한 관리 기관을 만드는 것입니다.
마찬가지로 중요한 것은 문화 및 변화 측면을 관리하는 것입니다. GenAI는 종종 작업과 프로세스를 확대하거나 재정의하므로 조직은 인력을 준비해야 합니다. 이는 직원들이 AI 도구를 신뢰하고 효과적으로 사용할 수 있도록 기술과 변화 관리를 개선하는 것을 의미합니다.
일부 얼리 어답터는 최종 사용자가 참여하는 파일럿 프로젝트로 시작하고 피드백을 기반으로 반복하는 것이 유용하다는 것을 알았습니다. 작은 승리를 보여주는 것은 추진력을 구축하고 동의하는 데 도움이 됩니다. 기대치가 높은 오늘날의 환경에서는 현실적인 목표를 설정하고 점진적인 발전을 축하하는 것이 환멸을 예방할 수 있습니다.
과대광고가 즉각적인 가치를 약속했을 수도 있지만 실제로 GenAI의 성공은 잘 실행되고 가치에 초점을 맞춘 일련의 단계에서 비롯됩니다.
GenAI를 대규모로 성공적으로 배포하는 데 도움이 되는 프레임워크는 무엇입니까?
대기업에 GenAI를 배포하려면 구조가 필요합니다. 기업에는 AI를 아이디어화부터 산업화까지 가져올 수 있는 운영 모델이 필요합니다. 이를 통해 여러 분야의 팀이 보안이나 책임을 훼손하지 않고 민첩성을 유지할 수 있습니다.
또한 많은 기업에서는 제품에 맞춰진 운영 모델을 사용하여 AI 작업을 비즈니스 결과에 연결합니다.
AI 배포를 안내하는 효과적인 방법은 파일럿부터 프로덕션까지 3단계 프레임워크를 적용하는 것입니다.
첫 번째 단계인 발견 및 기준 설정은 회사의 준비 상태와 기회를 이해하는 데 중점을 둡니다. 여기에는 현재 데이터 환경, 기술 스택 및 AI 성숙도를 평가하는 동시에 비즈니스 리더와의 워크숍을 통해 우선순위 사용 사례를 식별하는 작업이 포함됩니다.
목표는 문제를 정의하고, 성공 기준에 부합하며, 이해관계자 간의 공유된 이해를 구축하는 것입니다.
두 번째 단계인 도구 및 설계에서는 솔루션 구축의 힘든 작업을 다룹니다. 여기에서 조직은 올바른 도구와 모델을 선택하고 확장성, 보안 및 거버넌스를 염두에 두고 솔루션을 설계합니다.
여기에는 클라우드 또는 온프레미스 인프라를 설정하고 GenAI 모델을 비즈니스 워크플로와 통합하는 작업이 포함됩니다. 디자인은 사용자 경험까지 확장됩니다. 예를 들어 GenAI 기반 보조자가 직원의 일상 도구에 통합되는 방법입니다.
마지막 단계인 ROI 및 확장에서는 가치를 입증한 다음 효과가 있는 항목을 확장하는 것입니다. 이 단계에서 GenAI 솔루션은 제한된 범위 또는 사용자 그룹으로 시작하여 실제 환경에 배포되며 검색 단계에서 설정된 KPI와 면밀히 측정됩니다.
결과가 목표를 달성하거나 초과하면 조직은 AI의 사용을 자신있게 확장하고 이를 기능으로 제도화하기 시작할 수 있습니다. 이 단계에서는 비즈니스 변화의 채택과 관리에도 중점을 둡니다.
책임 있는 AI는 GenAI의 세 가지 확장 단계 모두에 통합되어야 합니다. 검색에서는 의도된 용도와 보안 가드레일을 정의하고, 데이터 출처와 품질을 평가하고, 비즈니스 KPI와 함께 측정 가능한 책임 지표를 설정합니다.
설계에서는 정책 시행과 액세스 제어, 편향 시행 및 보안 테스트 통합을 포함하여 이러한 표준에 따라 시스템을 설계합니다. 규모와 채택 측면에서 고위험 단계, 지속적인 모니터링 및 사고 대응, 감사 추적, 모델의 정기적인 재평가를 위해 인간의 감독을 루프에 통합합니다.
GenAI로 성공하는 기업은 어디인가?
올바른 접근 방식을 통해 GenAI는 인상적인 결과를 제공할 수 있습니다. 예를 들어, 은행 업계에서 호주 은행은 전통적으로 시간 집약적인 수동 작업이었던 소프트웨어 테스트 프로세스에 GenAI를 적용했습니다.
GenAI를 활용함으로써 은행은 테스트 수명 주기를 크게 가속화하고 소프트웨어 품질을 개선하여 보다 협력적이고 적응력이 뛰어난 테스트 문화를 조성할 수 있었습니다. 실제로 이는 고객에게 새로운 기능을 더 빠르게 출시하고 해당 릴리스에 대한 신뢰도를 높이는 것을 의미했습니다.
또 다른 예는 제약 산업에서 나옵니다. 미국 제약 회사는 GenAI를 사용하여 규정 준수 및 감사 프로세스를 재창조했습니다. 회사의 기존 규칙 기반 문서 감사 시스템은 비용이 많이 들고 사용이 쉽지 않았기 때문에 파트너와 협력하여 GenAI 솔루션을 통합했습니다.
그 결과 규제 문서를 검토하고 95% 이상의 정확도로 잠재적인 품질 격차를 식별하는 동시에 수동 문서 개발 노력을 65% 줄이고 가독성 점수를 50% 높일 수 있는 AI 기반 도우미가 탄생했습니다.
단거리 경주가 아닌 마라톤
대기업에서 GenAI를 구현하는 여정은 단거리 경주가 아닌 마라톤입니다. 현재 많은 조직이 초기 실험에서 아직 약속된 ROI를 달성하지 못해 환멸의 골짜기에 들어서고 있습니다. 그러나 기업이 AI 전략을 과대 광고에서 현실로 다시 생각함으로써 이 단계는 살아남을 수 있습니다.
데이터 품질을 정면으로 해결하고, 조직의 준비 상태에 투자하고, IT와 비즈니스 영역 간의 협업을 촉진함으로써 기업은 일반적인 실패 지점을 피할 수 있습니다. 결정적으로, 조직은 제품에 맞춰진 운영 모델로 전환하고 현실적인 기대치를 설정함으로써 상당한 가치를 얻을 수 있습니다.
그러나 이를 대규모로 달성하려면 책임 있는 AI, 거버넌스, 반복 및 비즈니스 결과에 대한 지속적인 집중이 필요합니다. AI 배포를 사람, 프로세스, 목적에 맞춰 기술을 조정하는 전체적인 변화로 간주하는 기업은 이미 초기 AI 투자를 지속적인 ROI로 전환하고 있습니다.
최고의 비즈니스 인텔리전스 플랫폼을 선보였습니다.
이 기사는 TechRadarPro의 Expert Insights 채널의 일부로 제작되었으며, 오늘날 기술 업계에서 가장 뛰어난 인재들을 소개합니다. 여기에 표현된 견해는 저자의 견해이며 반드시 TechRadarPro 또는 Future plc의 견해는 아닙니다. 협업에 관심이 있다면 여기에서 자세히 알아보세요.