구글, 위험한 의료 오류 노출 후 AI 건강 요약 삭제

우리 모두 거기에 가봤습니다. 옆구리에 이상한 통증이 느껴지거나, 의사로부터 혼란스러운 검사 결과를 받고, 가장 먼저 하는 일은 구글을 ​​여는 일이다. 당신은 의학 학위를 찾고 있는 것이 아닙니다. “괜찮아?”라는 질문에 빠르게 대답하고 싶을 뿐이에요. 그러나 Google은 최근 AI 검색 요약 속도를 늦춰야 했습니다. 왜냐하면 봇에게 의학적 조언을 요청하는 것이 실제로 위험할 수 있기 때문입니다.

Google은 조사 결과 부정확하고 완전히 무서운 정보를 제공하고 있는 것으로 밝혀진 후 AI가 생성한 여러 건강 요약을 검색 결과에서 조용히 삭제했습니다. 이 모든 것은 The Guardian의 보고서에서 이러한 “AI 개요”(검색 상단에 표시되는 색상 상자)가 불완전한 데이터를 표시하고 있다는 점을 지적한 후 시작되었습니다.

가장 심각한 예는 간 혈액 검사였습니다.

AI에게 ‘정상 간격’을 물어보면 그냥 숫자 목록만 뱉어낸다. 나는 당신이 남자인지 여자인지 묻지 않았습니다. 나이, 민족, 병력 등은 묻지 않았습니다. 그것은 단지 평평한 번호를 제공했습니다. 의료 전문가들은 이를 보고 기본적으로 “이건 위험하다”고 말했다.

여기서 문제는 단지 AI가 틀렸다는 것이 아닙니다. 그것은 위험할 정도로 기만적이었다는 것이다. 초기 간 질환을 앓고 있는 사람이 검사 결과를 찾고 있다고 상상해 보십시오. AI는 그들의 숫자가 임의의 웹사이트에서 가져온 “정상” 범위 내에 있다고 알려줍니다. 그 사람은 ‘아, 그럼 난 괜찮아’라고 생각하고 후속 약속을 건너뛸 수도 있습니다. 실제로 20세에게는 “정상적인” 숫자가 50세에게는 경고 신호일 수 있습니다. AI는 이를 알 수 있는 뉘앙스가 부족하며 이러한 맥락의 차이는 현실 세계에서 심각한 결과를 초래할 수 있습니다.

Google의 응답은 매우 표준적이었습니다. 그들은 표시된 특정 검색어를 삭제하고 자사 시스템이 일반적으로 도움이 된다고 주장했습니다. 그러나 여기에 중요한 점이 있습니다. British Liver Trust와 같은 의료 기관은 질문을 약간만 바꿔도 동일한 나쁜 정보가 다시 나타난다는 사실을 발견했습니다. 디지털 두더지 히트 게임과 같습니다. 버그를 수정하면 AI가 5초 후에 새로운 버그를 생성합니다.

여기서 진짜 문제는 신뢰다.

이러한 AI 요약은 페이지 상단, 병원이나 의학 저널에 대한 실제 링크 바로 위에 있기 때문에 권위 있는 것처럼 보입니다. 우리는 최선의 결과를 신뢰하도록 훈련받았습니다. Google이 깔끔한 작은 상자에 답을 제시하면 우리의 두뇌는 무의식적으로 그것을 ‘정답’으로 간주합니다. 하지만 그렇지 않습니다. 이는 다음에 어떤 단어가 나올지 추측하는 예측 엔진일 뿐입니다.

현재로서는 이는 엄청난 경각심을 불러일으키는 신호입니다. AI는 이메일을 요약하거나 여행 일정을 계획하는 데는 훌륭하지만 건강에 있어서는 아직 최적의 상태가 아닙니다. 이러한 시스템이 상황을 이해할 수 있을 때까지 또는 Google이 더 엄격한 가드레일을 적용할 때까지는 봇을 지나서 실제 의사의 실제 링크를 클릭하는 것이 더 안전할 것입니다. 속도는 좋지만 건강에 관해 이야기할 때 중요한 것은 정확성뿐입니다.