LLM이 사용자 정보 알고 있으면 설득 확률 급상승...인터넷 노출 정보만으로 충분

카테고리

인공지능, 머신러닝

서브카테고리

AI

대상자

• *데이터 과학자, AI 개발자, 정책 입안자**
• 난이도: 중간 (AI 윤리, 설득 전략, 마이크로타깃팅에 대한 이해 필요)*

핵심 요약

• LLM(GPT-4)은 사용자 정보를 활용해 설득력 있는 콘텐츠를 생성함
• 개인정보를 알면 64.4%의 경우 인간보다 더 설득력 있음
• 웹 노출 정보만으로도 마이크로타깃팅이 가능해짐

섹션별 세부 요약

1. 연구 개요

• 대상: 미국 900명, 토론 주제 '낙태 합법화', '화석 연료 금지' 등
• 방법: 참가자 나이, 성별, 정치적 입장 등 기본 정보를 기반으로 AI와 인간이 토론
• 평가 기준: 동의도 1~5점으로 토론 전/후 비교

2. 연구 결과

• GPT-4의 설득력: 인간보다 64.4%의 경우 더 설득력 있음
• 입장 변화율: GPT-4 의견에 동의하는 확률 81.2%
• 개인 맞춤 설득: 연령, 인종, 정치적 성향에 따라 경제 성장, 빈부 격차 등 주제별 논점 조정

3. 전문가 의견

• 리카르도 갈로티: "웹 데이터를 기반으로 한 마이크로타깃팅은 AI의 설득력 향상에 기여"
• 샌드라 왁터: "AI는 진실과 허구를 구분하지 않음. 정책적 규제 필요"

결론

• LLM의 설득 전략은 개인정보 활용에 따라 달라지며, 윤리적 문제 발생 가능성 있음
• 웹 노출 정보를 기반으로 한 마이크로타깃팅은 AI 개발자 및 정책 입안자에게 주의를 요구
• 진실성 향상과 함께, AI 출력의 신뢰성 보장 위해 엄격한 규제 필요