AI, 허위 정보로 재생 에너지 정책 제언의 신뢰를 흔들다? 인공지능 시대, 진실과 거짓 사이!
최근 호주에서 AI가 생성한 허위 정보가 재생 에너지 정책 제언에 심각한 영향을 미친 사례가 큰 충격을 주고 있습니다. 인공지능의 발전은 우리에게 무한한 가능성을 열어주지만, 동시에 정보의 신뢰성에 대한 근본적인 질문을 던지고 있습니다. 이 글에서는 이번 사례를 통해 AI 활용의 명암과 미래 사회가 직면할 과제, 그리고 우리에게 필요한 정보의 투명성에 대해 함께 고민해보고자 합니다.
1. AI가 만든 허위 정보: 재생 에너지 정책 제언의 신뢰를 흔들다
호주의 보수적 환경 단체인 Rainforest Reserves Australia(RRA)는 재생 에너지 프로젝트에 반대하는 목소리를 내며, 연방 및 주 정부의 공청회에 수많은 정책 제언 자료를 제출해왔습니다. 놀랍게도 이 단체는 2024년 8월 이후 100건이 넘는 정책 제언 작성에 AI를 활용했으며, 이 과정에서 심각한 허위 정보가 포함된 것으로 드러나 충격을 주고 있습니다.
가상의 기관과 풍력 발전소를 인용한 AI의 '환각' 현상
RRA가 제출한 정책 제언 자료에는 존재하지 않는 정부 기관(예: 2009년 폐지된 '퀸즐랜드 환경보호국', 가상의 '호주 지역 기획 위원회', '퀸즐랜드 기획청'), 가상의 풍력 발전소(예: 오키 풍력 발전소), 그리고 심지어 실제 학술지에 실리지 않은 과학 논문까지 인용되었습니다. 이는 AI가 학습하지 않은 내용을 사실인 양 '창작'하는 이른바 '환각(hallucination)' 현상으로 밝혀졌습니다. 인공지능이 만들어낸 상상의 데이터가 재생 에너지와 같은 중요한 정책 제언의 기반이 된 것입니다.
학계의 강력한 비판: "100% 오해의 소지 있고, 터무니없다"
RRA의 정책 제언에 인용된 것으로 지목된 하버드 대학의 나오미 오레스케스 교수와 브라운 대학의 밥 브룰 교수는 자신들의 연구가 RRA의 주장을 전혀 뒷받침하지 않으며, "100% 오해의 소지가 있고", "터무니없다"고 강하게 비판했습니다. 특히 오레스케스 교수의 저서 『의혹을 파는 상인들(Merchants of Doubt)』은 넷 제로(Net Zero) 개념을 다루지 않았음에도 불구하고 RRA의 주장을 뒷받침하는 근거로 잘못 인용되었습니다. 브룰 교수 또한 자신의 논문이 RRA의 재생 에너지 옹호 정책에 대한 주장을 "전혀 다루지 않는다"고 밝혔습니다. 이는 AI가 허위 정보를 교묘하게 생성하여 재생 에너지에 대한 불신을 조장하고, 공론의 장을 오염시킬 수 있음을 여실히 보여줍니다.
PFAS 오염 주장의 허구성: 존재하지 않는 논문
더욱이 RRA는 태양광 패널과 풍력 터빈에서 '영원한 화학물질'이라 불리는 PFAS(과불화화합물)가 배출된다는 주장을 뒷받침하기 위해 『Journal of Cleaner Production』에 실린 두 편의 논문을 인용했습니다. 그러나 해당 학술지의 출판사인 엘스비어(Elsevier)는 이 논문들이 "존재하지 않는 가상의 참고 문헌"이라고 공식 확인했습니다. 즉, AI가 아예 존재하지 않는 과학적 근거를 '만들어낸' 것이며, 이는 정책 제언의 신뢰성을 뿌리부터 뒤흔드는 심각한 문제입니다.
2. 인공지능 '환각' 현상, 정책 제언의 가짜 정보가 되다
RRA의 자원봉사자이자 보고서 작성자인 앤 스미스 씨는 AI의 도움을 받아 100건이 넘는 정책 제언들을 작성했음을 인정했습니다. 그녀는 AI를 "문헌 검색, 데이터 종합, 문서 준비를 돕는 도구"로 활용했으며, 모든 정보와 결론은 자신의 지시 아래 이루어졌다고 해명했습니다. 심지어 가디언 오스트레일리아의 질문에 대한 답변 또한 AI의 도움을 받아 작성했다고 덧붙였습니다. 그녀는 이를 "모든 것을 적절히 검토하고 정확하고 시기적절한 답변을 제공하는 가장 효율적인 방법"이라고 설명했지만, 이 해명 자체도 AI를 통해 이루어진 것입니다.
AI 생성 정보의 위험성과 검증의 중요성
퀸즐랜드 공과대학교(Queensland University of Technology)의 AI 책임 연구원인 아론 스노스웰 박사는 RRA 문서의 상당 부분이 AI가 생성한 것으로 보이며, 특히 참고 자료의 일관성 부족은 AI 시스템의 "전형적인 실수"라고 지적했습니다. 그는 AI 활용 자체는 문제가 아니지만, AI가 생성한 작업물은 반드시 이중으로 확인해야 한다고 강조했습니다.
인공지능은 방대한 데이터를 빠르게 처리하고 요약하는 데 탁월하지만, 그 과정에서 맥락을 잘못 이해하거나 비실재적인 내용을 생성할 수 있습니다. 특히 정책 제언과 같이 중요한 의사결정의 기반이 되는 자료에서 허위 정보가 포함된다면, 사회 전체에 돌이킬 수 없는 혼란을 야기할 수 있습니다. 재생 에너지와 같이 민감하고 중요한 분야에서는 더욱 철저한 검증이 필수적입니다.
3. AI 활용의 윤리적 딜레마와 정보의 투명성
이번 사건은 AI 기술 발전과 함께 우리가 직면한 윤리적 딜레마를 명확히 보여줍니다. AI는 정보의 접근성과 효율성을 극대화하지만, 동시에 가짜 정보를 대량 생산하고 확산시키는 도구로 악용될 위험도 있습니다.
공론의 장을 오염시키는 가짜 정보의 폐해
호주 환경단체 'Friends of the Earth Australia'의 캠페인 코디네이터인 캠 워커는 RRA의 정책 제언이 "의사결정자와 공동체가 의존하는 증거 기반을 훼손하는 날조"를 포함하고 있다고 비판했습니다. 그는 "16년 전에 폐지된 정부 부서를 인용하거나 존재하지 않는 보고서를 참고하는 것은 지역 사회 대표가 아니며, 허위 진술"이라고 일갈했습니다. 재생 에너지 전환에 대한 합리적인 우려와 정책 제언은 존중받아 마땅하지만, AI를 이용한 허위 정보는 정보의 투명성을 해치고 건전한 토론의 장을 오염시킵니다.
AI 시대의 책임감 있는 AI 활용 문화 정착의 중요성
AI를 활용하여 정책 제언을 할 경우, 단순히 편리함만을 추구할 것이 아니라 생성된 정보의 정확성과 진실성에 대한 엄격한 검증과 윤리적 책임감이 무엇보다 중요합니다. RRA가 AI 활용을 인정한 것은 한편으로는 솔직한 태도일 수 있지만, 그로 인해 발생한 허위 정보의 심각성은 결코 가볍게 볼 수 없습니다. 인공지능이 우리 삶에 깊숙이 들어오는 미래 사회에서는 정보의 투명성과 AI 활용에 대한 윤리적 기준 마련이 시급합니다.
결론: 인공지능 시대, 진실의 나침반을 들다
인공지능은 강력한 도구이지만, 그 힘은 올바른 방향으로 사용될 때 비로소 긍정적인 가치를 창출합니다. AI가 만든 가짜 정보로 인해 재생 에너지 정책 제언의 신뢰성이 흔들리는 현상을 목격하면서, 우리는 다음과 같은 노력을 게을리해서는 안 될 것입니다.
- 비판적 사고와 사실 확인의 생활화: 어떤 정보든 그대로 믿기보다는 출처를 확인하고, 교차 검증하는 습관이 필요합니다. 특히
AI가 생성한 정보는 더욱 신중하게 다루어야 합니다.정보의 투명성은 개인의 노력에서 시작됩니다. AI 활용가이드라인 마련:정책 제언이나 공적인 논의에AI를활용할 경우,AI생성 정보를 명시하고 그 정확성을 보장하기 위한 명확한 가이드라인과 책임 소재를 명확히 해야 합니다.재생 에너지를 포함한 모든정책 제언의 투명성은미래 사회의 건강한 발전을 위한 필수적인 요소입니다.AI윤리 교육 강화:인공지능기술 개발자와 사용자 모두가AI의 한계와 윤리적 책임을 명확히 인지할 수 있도록 지속적인 교육과 논의가 필요합니다.
기술 발전과 더불어 책임감 있는 AI 활용 문화가 정착되어, 인공지능이 미래 사회의 발전을 위한 진정한 동반자가 되기를 기대합니다.
참고기사 : https://www.theguardian.com/australia-news/2025/oct/18/queensland-anti-renewables-group-cited-nonexistent-papers-in-inquiry-submissions-using-ai-publisher-says
AI information : https://alroetech.com/category/ai-information/