🔎 #430. 애플, AI 알림 요약 기능 중단

안녕하세요?
매일 1개의 프롬프트를 배달해드리는 Daily Prompt입니다.

오늘은 애플에서 뉴스·엔터테인먼트 앱에 대한 AI 알림 요약 기능을 잠정 중단했다는 소식을 다룹니다.

애플, AI 알림 요약 기능을 잠정 중단

테크크런치(TechCrunch) 기사에 따르면, 애플이 iOS 18.3, iPadOS 18.3, 그리고 macOS Sequoia 15.3 개발자 미리보기 버전에서 뉴스·엔터테인먼트 앱에 대한 AI 알림 요약 기능을 잠정 중단했다고 합니다.

이번 소식은 BBC가 작성한 기사를 애플 뉴스 앱의 AI 알림 요약 기능이 사실과 다르게 전달하면서 문제가 불거졌습니다. 원 기사 내용은 미국 보험사 유나이티드헬스케어(UnitedHealthcare) CEO인 브라이언 톰슨(Brian Thompson)을 살인한 혐의로 기소된 루이지 만지오네(Luigi Mangione)에 대한 것이었는데, 요약 과정에서 '루이지 만지오네가 스스로 총을 쐈다'라는 오보가 알림으로 전달되어 논란이 되었습니다.

이 일로 인해 애플은 뉴스·엔터테인먼트 앱에 대한 알림 요약 기능을 잠시 꺼놓기로 했으며, 동시에 전체 알림 요약 방식을 한층 투명하게 바꾸겠다는 계획을 내놓았습니다.

가장 최근 개발자 미리보기 버전인 iOS 18.3, iPadOS 18.3, 그리고 macOS Sequoia 15.3에서는 잠정적으로 뉴스·엔터테인먼트 앱에 대한 알림 요약이 전면 비활성화되었고, 문제를 개선한 뒤에나 다시 활성화될 예정이라고 합니다. 특히 BBC가 애플에 항의한 지 몇 주 안 되어 이 결정이 공개되면서, 부정확한 알림 요약이 실제 뉴스 오보 사태와 직결될 수 있음을 재차 확인시켜 준 사례가 되었습니다.

또한 알림 요약이 앞으로는 이탤릭체로 표현되어 일반 알림과 더욱 확실히 구분되도록 바뀌고, 사용자는 잠금 화면에서 바로 특정 앱의 요약을 끌 수 있게 됩니다. 더불어 베타 기능임을 분명히 고지하며, 오류 발생 가능성에 대한 안내도 강화할 예정이라고 합니다. 공개 베타는 곧 출시될 것으로 보이지만, 일반 사용자에게 정식 배포되는 시점은 아직 확정되지 않았습니다.

마무리

1. AI의 환각현상으로 인한 정확도 저하: 언어모델이 점점 발전함에 따라 환각현상은 줄고 있지만, 완전히 사라지지는 않았습니다. 그나마 요약 능력은 언어 모델이 가장 잘하는 것임에도 불구하고 환각현상이 발생하는 것을 보면 애플 내 언어모델의 추론 능력에 개선이 필요할 듯 합니다.
2. AI 이미지 제작의 리스크: AI를 활용해 제품의 홍보 이미지를 제작하는 경우가 늘어나고 있습니다.(예: 모델 촬영 없이 의류제품 이미지 생성) 하지만 AI가 생성한 이미지가 실제 제품과 불일치할 경우, 논란이 될 수 있습니다. 특정 의상의 길이나 무늬가 잘못 표현될 수도 있기 때문입니다. 따라서 AI는 완제품 콘텐츠 제작보다는, 정확성이 덜 중요한 부수적인 장면에 활용하는 것이 현실적인 접근일 것입니다.
3. 콘텐츠 제작, 완전 자동화 가능: AI로 마음에 드는 결과물을 얻는 것은 아직도 쉽지 않습니다. 특히 실제 존재하는 제품을 표현하려면 그 어려움이 배가 됩니다. 이러한 이유로 현재는 AI 활용 전문가에게 외주를 주기도 하지만, 결국 모든 과정이 기업 내에서 자동화될 것입니다. 뚜렷한 IP를 소유한 기업은 콘텐츠 제작의 전 과정을 자동화할 수 있으며, 이는 제작에 관여하는 직원의 수를 급격히 줄이는 결과를 가져올 것입니다.
4. ‘진실’이란 무엇인가?: 최근 국내에서 벌어지는 사태들을 보며 사람들은 진실보다는 자신이 믿고 싶은 것을 진실이라 믿는 경향이 강하다는 생각이 듭니다. 이와 관련해 『개소리는 어떻게 세상을 정복했는가』라는 책을 읽고 있는데요, '개소리'가 어떻게 생산되는지, 왜 생산되는지, 어떻게 유통되는지를 다루고 있어 매우 흥미롭게 읽고 있습니다.
5. 어차피 우리가 믿는 것이 진실이라면, AI가 정확하지 않은 요약을 제공하는 것이 큰 대수인가? 하는 생각까지 듭니다. 향후에는 사람들은 AI가 제시하는 방향을 진실이라 믿게 될 것이고, AI가 우리 일상에 스며드면 스며들수록 빅테크에서 대중을 통제하는 것도 매우 수월해질 것입니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Cake and Candles

0:00

/137.712

1×

프롬프트 (by @jae_hong__an) :