“웹 에이전트”의 기초를 구축하는 Microsoft의 Salim Naim

한때 요청에 응답하는 챗봇과 부조종사로 정의되었던 인공 지능(AI)은 시스템이 독립적으로 작동하고 다른 디지털 에이전트와 협력할 수 있는 새로운 단계로 진입하고 있습니다. 종종 “에이전트 AI”의 부상으로 설명되는 이러한 변화는 플랫폼이 신뢰, 상호 운용성 및 디자인을 재창조하는 방식에 따라 형성되고 있습니다.

TechSparks 2025의 통찰력 있는 마스터클래스에서 Microsoft Asia의 AI 이사인 Salim Naim은 이러한 전환을 Web 1.0에서 Web 2.0으로의 도약과 비교할 수 있는 플랫폼 전환으로 설명했습니다. 그는 “웹 1.0이 정적이고 웹 2.0이 동적으로 만들었다면 에이전트 AI는 자율성에 관한 것”이라며 변화에는 새로운 인프라, 툴체인, 거버넌스 메커니즘이 필요하다고 덧붙였습니다.

Naim은 Microsoft의 초점이 스타트업과 기업이 안정적이고 안전한 AI 에이전트를 구축할 수 있게 해주는 “툴체인”이라고 부르는 기본 시스템을 구축하는 데 있다고 설명했습니다. “모든 기술의 물결에는 활성화 계층이 필요합니다.”라고 그는 말했습니다. “웹에는 브라우저와 서버가 있었고 AI에는 에이전트와 평가자가 있을 것입니다.”

Naim은 이러한 변화의 핵심 부분이 사용자가 기술과 상호 작용하는 방식을 재정의하는 것이라고 주장했습니다. 오늘날의 디지털 경험은 앱을 중심으로 구축됩니다. 사용자는 관련 작업을 완료하려면 플랫폼 사이를 이동해야 합니다. 대조적으로 에이전트 시스템은 사용자 의도를 중심으로 설계되었습니다.

Naim은 Microsoft Copilot의 프로토타입을 시연하면서 단일 대화형 인터페이스가 작업 흐름을 벗어나지 않고도 이메일을 검색하고, 콘텐츠를 요약하고, 응답 초안을 작성하고, 프레젠테이션을 생성할 수 있는 방법을 보여주었습니다. “우리는 작업 기반 경험에서 의도 기반 경험으로 전환하고 있습니다.”라고 그는 말했습니다. “인터페이스 자체가 지능화된다.”

사용자 경험을 넘어 Naim은 에이전트를 위한 미래의 “양면 시장” 아키텍처에 대해 논의했습니다. 여기서 개인과 기업은 각각 의사소통, 협상, 거래를 수행하는 자체 AI 상대를 보유합니다. 그는 이러한 시스템이 웹을 ‘케어 경제’에서 ‘가치 경제’로 이동할 수 있지만 여전히 주요 연구 과제에 직면해 있다고 지적했습니다.

그는 마이크로소프트 자체 연구에 따르면 두 에이전트가 협력할 때 의견이 일치하지 않거나 작업을 효과적으로 완료할 수 없는 경우가 많다는 사실을 발견했습니다. 그는 “그들은 공유된 목표나 행동 기반을 갖고 있지 않다”며 거래, 평판, 공정성을 위한 프로토콜을 개발하는 것이 중요할 것이라고 덧붙였습니다.

이러한 복잡성으로 인해 거버넌스와 신뢰가 AI 도입의 다음 단계에서 핵심이 됩니다. Naim은 회사가 이미 10,000명이 넘는 Microsoft 고객과 같이 몇 명의 직원에서 수천 명의 자율 에이전트로 확장함에 따라 데이터 유출, 액세스 제어 및 평가에 대한 우려가 필연적으로 발생한다고 말했습니다. “이러한 위험 중 일부는 다른 LLM에서 처리할 수 없습니다”라고 그는 말했습니다. “규칙 기반 시스템과 명시적인 가드레일이 필요합니다.”

Naim은 에이전트의 정확성, 완전성, 작업 준수 여부를 평가하는 오픈 소스 평가 툴킷과 같은 프레임워크에 대해 Microsoft Research에서 진행 중인 작업을 강조했습니다. 그는 AI 평가를 정적 벤치마크에서 실제 결과로 이동하여 에이전트를 인간 직원처럼 제어할 수 있도록 설계되었다고 말했습니다. 그는 “AI 운영에서 인간의 미래 역할은 평가적일 것”이라고 말했다. “그들은 세세하게 관리하는 작업이 아니라 결과를 판단할 것입니다.”

Naim은 설립자와 개발자를 위한 메모로 세션을 마무리했습니다. 기업은 본질적으로 자율 AI를 완전히 수용하기 전에 다층적인 보안과 책임을 요구할 것입니다. 이는 이 분야를 위한 스타트업이 처음부터 규정 준수, 상호 운용성 및 안정성을 고려하여 설계해야 함을 의미합니다.

Naim은 “신뢰와 통제력을 갖춘 조직이 곧 가장 먼저 규모를 확장하게 될 것입니다.”라고 말했습니다. “기회는 바로 거기에 있다.”