시애틀 소방국(SFD)이 지난 2년여 동안 시민들이 모르는 사이 인공지능(AI)을 활용해 911 의료 신고 전화를 분석하고, 일부 신고자를 구급차 대신 간호사 상담센터로 연결해온 사실이 드러나 논란이 일고 있다.

시애틀타임스에 따르면 시애틀 소방국은 덴마크 기반 의료 AI 기업 ‘코르티(Corti)’의 기술을 이용해 911 의료 신고 내용을 실시간으로 분석하고 있다.

AI는 신고자의 증상과 대화 내용을 듣고 특정 환자가 응급성이 낮다고 판단하면 디스패처(911 상황실 직원)에게 팝업 알림을 보내 텍사스 소재 간호사 상담센터(Nurse Line)로 연결하도록 권고한다.

소방국은 이 같은 시스템을 2023년 12월부터 실시간 의료 신고에 적용해 왔지만, 시민들에게 별도로 알리지 않았고 공개적인 검토 절차도 거치지 않았다. 시애틀타임스가 관련 내용을 취재하기 시작한 지 두 달이 지나서야 소방국은 AI 활용 사실을 공식 확인했다.

AI 도입을 둘러싼 가장 큰 논란은 ‘투명성 부족’이다. 시민들은 자신들의 911 통화가 AI에 의해 분석되고 있다는 사실을 전혀 알지 못했다. 소방국 홈페이지에도 관련 안내가 없으며, AI가 실제로 환자 분류와 응급 대응 개선에 얼마나 효과를 냈는지에 대한 평가 지표도 공개되지 않았다.

워싱턴대(UW) 법대 라이언 칼로 교수는 “시민들이 모르는 사이 민간 기업의 AI가 911 신고 과정에 개입했다는 점은 심각한 우려를 불러일으킨다”며 “누군가가 잘못 분류돼 응급체계 밖으로 밀려났다면 그 과정이 어떻게 이뤄졌는지 알 권리가 있다”고 지적했다.

실제 시애틀의 간호사 상담센터는 이미 여러 차례 논란에 휩싸였다. 올해 초 시애틀타임스는 일부 환자들이 구급차를 받기 위해 수 시간에서 10시간 이상 기다리는 사례가 발생했다고 보도했다. 특히 2022년 은퇴자 파멜라 호건은 911 신고 후 간호사 상담센터로 연결돼 10시간 넘게 구급차를 기다리다 결국 적절한 치료를 받지 못한 채 자택에서 숨졌고, 현재 유족이 소송을 진행 중이다.

소방국은 AI가 최종 결정을 내리는 것은 아니라고 강조한다. 크리스 롬바드 소방국 자원관리 부국장은 “디스패처가 모든 결정권을 갖고 있으며 AI는 단지 참고 정보를 제공할 뿐”이라고 설명했다.

코르티 역시 “AI는 의료진의 판단을 대체하거나 무력화하기 위한 것이 아니라 지원하기 위한 도구”라고 밝혔다.

그럼에도 전문가들은 AI가 인종, 성별, 사회경제적 배경에 따라 편향된 판단을 내릴 위험성과 개인정보 보호 문제를 제기하고 있다. 특히 AI가 911 신고를 분석하는 과정이 시애틀시의 감시기술 검토 조례(Surveillance Ordinance)에 따라 충분히 평가되지 않았다는 점도 논란거리다.

소방국은 현재 코르티에 연간 약 26만 달러를 지급하고 있으며, 지난해에는 미국 해안경비대와 알래스카, 대만, 텍사스 댈러스 관계자들에게 AI 시스템 시연과 견학 프로그램까지 제공한 것으로 알려졌다.

시애틀시는 이번 논란을 계기로 AI 거버넌스 체계 마련에 나섰다. 케이티 윌슨 시장 측은 “AI 사용이 개인정보와 편향성, 공공의 이익에 미치는 영향을 평가하는 공개적 관리 체계를 마련하고 있다”고 밝혔다.

전문가들은 의료 현장에서 AI 활용이 확대되는 것은 피할 수 없는 흐름이지만, 응급의료처럼 시민의 생명과 직결된 분야일수록 투명성과 책임성, 충분한 감독 장치가 반드시 뒷받침돼야 한다고 입을 모으고 있다.

특히 앞으로는 911 신고 전화를 사람이 아닌 AI 음성 상담원이 직접 받는 시대가 올 가능성도 제기되면서, 인공지능이 응급의료 체계에 어떤 변화를 가져올지 관심과 우려가 동시에 커지고 있다.