AI 알림 요약 논란…애플, 기능 중단 후 개선 착수

애플이 iOS와 macOS에서 제공 중이던 뉴스·엔터테인먼트 앱의 AI 알림 요약 기능을 일시적으로 중단했다.

이는 부정확한 정보 제공으로 인한 논란이 발생한 이후 내린 결정이다.

17일 테크크런치 등 외신에 따르면, 애플은 최신 개발자 프리뷰 버전(iOS 18.3, iPadOS 18.3, macOS Sequoia 15.3)에서 AI 알림 요약 기능을 전면 비활성화했다.

이는 BBC 기사의 잘못된 요약 전달로 비판을 받은 데 따른 조치다.

문제가 된 사례는 브라이언 톰슨 유나이티드헬스케어 CEO를 살해한 혐의를 받는 루이지 망지오네에 관한 BBC 기사다.

AI는 해당 사건을 요약하며 망지오네가 스스로 목숨을 끊었다는 잘못된 내용을 포함시켜 사용자들에게 혼란을 주었다.

실제로 망지오네가 톰슨 CEO를 살해한 것은 사실이지만, 스스로 목숨을 끊지는 않았다.

애플은 이번 사태를 계기로 AI 알림·요약 기능의 개선 작업에 착수했다.

앞으로는 모든 AI 알림·요약 내용을 이탤릭체로 표시해 일반 알림과 구분하고, 사용자가 잠금 화면에서 특정 앱에 대해 해당 기능을 비활성화할 수 있는 옵션도 제공한다.

또한 AI 알림·요약 기능이 베타 버전임을 알리는 안내 문구를 추가하고, 오류 가능성을 명확히 고지할 예정이다. 해당 경고 메시지는 설정 앱 내에서 확인할 수 있다.

테크크런치는 이번 조치에 대해 “이런 안내 표시가 새 라벨이나 배지 형태로 구현될 것으로 예상했다”며, “업계 기대와는 다른 결과가 나왔다”고 전했다.

다른기사보기

배동현 ([email protected]) 기사제보