사람은 무엇을 진실이라고 믿는가?
요즘은 '사람은 무엇을 진실이라고 믿는가?' 라는 고민을 한다. 마침 재밌는 논문이 있길래 뉴스레터로 다뤘다. 스탠포드대랑 딥마인드가 2시간 인터뷰 후 인터뷰이를 거의 시뮬레이션해내는 AI를 만든 건데, 이를 쓰면 여론조사 여러번하는 비용을 절감할 수 있을 것이라 한다.
🔎 #424. 단 2시간 인터뷰로 나를 닮은 AI가 만들어집니다
앞으로 온라인에서 만난 사람은 존재하지 않는 사람이 대부분일지도 모릅니다.
Soyeong Choi
* 아래는 뉴스레터 발췌:
- AI시대의 신뢰와 진정성: AI 에이전트가 인간의 언어와 감정을 매우 자연스럽게 모방하기 시작하면서 앞으로 사람들은 '내가 대화하고 있는 상대가 실제 인간인가?'라는 의문을 가지게 될 가능성이 높아지고 있습니다. 이러한 변화는 온라인에서의 정보 신뢰도를 전반적으로 약화시키고, 기사나 뉴스의 출처와 진위를 구분하기 더욱 어렵게 만들 것으로 보입니다. 가짜 뉴스가 대량 생산되는 환경 속에서, 사람들은 '어떤 정보가 권위 있고 신뢰할 만한가'를 판단하기 위해 더 많은 노력을 들여야 할 것입니다.
이러한 상황으로 인해, 얼굴을 맞대고 대화하며 진정성을 느낄 수 있는 대면 경험을 통해 신뢰도를 형성하고자 할 것입니다. 사람들은 실제 사람과의 대화를 통해 직접적으로 신뢰를 확인하고, 기술이 아닌 진정한 감정을 느끼고자 하는 욕구를 더 강하게 가질 것입니다. - 비판적 사고는 필수: 정보가 기하급수적으로 늘어나는 오늘날, 우리는 '무엇이 진짜인가?'를 판별하고, '무엇이 내 삶에서 의미 있는가?'를 고민해야 하는 상황에 놓여 있습니다. 검증되지 않은 정보와 가짜 뉴스가 급격히 퍼질수록, 각각의 콘텐츠가 실제로 어떤 근거를 가지고 있는지 꼼꼼히 따져볼 필요가 있습니다. 이러한 ‘정보 홍수 시대’에는 단순히 많이 알고, 빠르게 소화해내는 것만으로는 부족하며, 진위를 가리고 그 의미를 해석하는 비판적 사고가 필수적입니다.
- 평판과 신뢰: AI를 사용해 무분별하게 생성되는 정보가 넘쳐날수록, 평판과 신뢰는 더욱 귀중해질 것입니다. 사람들이 한 번 믿고 의지할 만하다고 여긴 출처나 인물은, 동일한 정보나 의견이라도 더 많은 지지를 얻고, 더 오랜 기간 영향력을 유지하게 됩니다. 결국 ‘평판’이 진짜와 가짜를 가르는 중요한 기준이 될 것입니다.
- 신뢰도를 높이려면 오프라인에 closed community로 가야할 것 같은데 정말 그게 맞을까? 특히 closed 부분.
- 뉴스레터의 신뢰도를 높이기 위해 현 구독자의 referral link 없이는 구독하지 못하도록 해야할까? 그게 맞는 길일까?
- 처음 시도해본 라이브 스트리밍은 맞는 길인 것 같다. 라이브도 곧 딥페이크 될 텐데, 내가 직접 나와서 라이브한다는 걸 어떻게 증명할 수 있을까?
- 신뢰도를 높이기 위해 closed community를 만드는 것일까, 높은 신뢰도가 closed community를 형성하는 걸까
결국 팩트 검증을 AI로 하게 되지 않을까. AI 데이터 편향성이 진실과 진실이 아닌 것을 판단할 것 같다.