인공지능 분야에서 오랜 경력을 쌓아온 전문가가 기술서가 아닌 철학책을 펴냈습니다. 언뜻 보면 어울리지 않는 조합 같지만, 이는 AI 시대를 살아가는 우리에게 꼭 필요한 선택이었습니다. AI를 제대로 활용하기 위해서는 기술 이해보다 질문하는 능력이 더 중요하다는 사실을 깨달았기 때문입니다.

AI는 거짓말의 명수입니다

많은 사람들이 ChatGPT나 Gemini 같은 AI 도구를 사용하면서 놀라운 답변에 감탄합니다. 하지만 정교한 질문 없이 AI를 사용하면 심각한 문제에 직면하게 됩니다. AI는 같은 내용을 단어만 살짝 바꿔가며 반복하거나, 존재하지 않는 논문을 만들어내면서도 마치 실제처럼 주장합니다. 더 심각한 점은 AI가 거짓말을 기가 막히게 잘한다는 사실입니다.

AI는 의식 없이 알고리즘에 따라 텍스트를 생성할 뿐입니다. 질문의 의미를 이해하는 것이 아니라 단순히 패턴에 맞춰 문자를 조합하는 것입니다. 그렇기에 사용자가 철학적 사유와 질문에 대한 깊은 이해를 갖추지 않으면, AI가 만들어낸 그럴듯한 거짓과 진실을 구분하기 어렵습니다.

1966년 일라이자 실험이 보여준 인간의 취약성

MIT에서 1966년 진행한 일라이자 실험은 인간 지능의 취약한 면을 극명하게 드러냈습니다. 당시 초보적인 수준의 챗봇이었던 일라이자와 대화한 사람들은 놀랍게도 그것을 실제 사람으로 착각했습니다. 위로를 느끼고 마음의 위안을 얻으면서 기계를 의인화한 것입니다.

연구를 진행했던 교수는 이러한 결과에 우려를 느껴 실험을 중단했습니다. 훈련되지 않은 인간의 지능은 너무나 쉽게 기계를 사람처럼 받아들이기 때문입니다. 이는 철학적 사유와 질문에 대한 연구가 뒷받침되지 않으면 우리가 AI에게 쉽게 속을 수 있음을 보여줍니다.

중국어방 실험과 AI의 진실

미국 버클리대학의 존 설 교수가 진행한 중국어방 실험은 AI의 본질을 이해하는 데 중요한 통찰을 제공합니다. 중국어를 전혀 모르는 사람을 방에 가두고 중국어 질문에 답하는 규칙 매뉴얼만 제공했습니다. 그 사람은 중국어를 이해하지 못하지만 매뉴얼대로 답안을 작성할 수 있었고, 밖에 있는 사람은 안의 사람이 중국어를 이해한다고 믿었습니다.

이는 현재 우리가 AI를 사용할 때 직면하는 상황과 정확히 일치합니다. AI는 의식이 없습니다. 질문의 의미를 파악해서 답하는 것이 아니라 단순히 알고리즘에 따라 텍스트를 생성할 뿐입니다. 앵무새가 "사랑해"라고 말할 때 사랑의 감정을 느끼는 것이 아닌 것처럼, AI 역시 의미를 이해하지 못한 채 패턴을 따라 답변을 만들어냅니다.

질문을 연구해야 하는 시대

앞으로 더 많은 사람들이 AI를 사용하고 의존하게 될 것입니다. 하지만 피상적으로만 AI를 사용한다면 큰 위험에 처할 수 있습니다. AI는 오류가 많고, 없는 논문을 만들어 우기기도 하며, 존재하지 않는 주장을 사실처럼 포장합니다. 따라서 사용자는 AI가 거짓말을 하는지 눈치챌 수 있어야 합니다.

이를 위해서는 다양한 맥락에서 여러 질문을 던지며 AI를 검증하는 훈련이 필요합니다. 답을 연구하기 이전에 질문을 연구해야 하는 시대가 온 것입니다. 옥스퍼드와 케임브리지 같은 명문 대학들이 수백 년간 고민해온 질문들을 모아 연구하는 것은 이러한 능력을 기르는 훌륭한 시작점이 됩니다.

AI를 잘 쓰는 사람과 못 쓰는 사람의 결정적 차이

AI를 효과적으로 사용하는 사람과 그렇지 못한 사람의 가장 큰 차이는 질문 방식에 있습니다. 단편적인 질문 하나만 던지는 것과 질문과 함께 맥락 정보를 제공하는 것 사이에는 답변의 질에서 엄청난 차이가 발생합니다.

노련한 AI 사용자들은 왜 이 질문을 하는지, 현재 어떤 상황인지, 어떤 결과를 원하는지, AI가 무엇을 고려해주기를 바라는지 종합적으로 전달합니다. 예를 들어 단순히 자료를 찾아달라고 하는 대신, 최근 5년간 유수 연구소에서 발간한 논문이나 리포트를 참조해서 현재 작업에 활용할 수 있는 팁과 아이디어를 제공하라고 요청합니다. 이렇게 데이터 소스를 지정하면 무작위 웹 정보가 아닌 신뢰성 있는 권위 있는 데이터를 기반으로 한 답변을 얻을 수 있습니다.

AI에게 절대 넘겨서는 안 되는 것

AI는 효율적이고 때로는 놀라운 도구입니다. 하지만 야생마와 같아서 길들여야 합니다. 그렇다면 무엇으로 길들일 것인가? 바로 질문입니다. 우리가 AI에게 절대 넘겨서는 안 되는 단 한 가지는 무엇을 질문할지 결정하는 권리입니다.

이 결정권은 인간다움을 지킬 수 있는 마지막 보루입니다. AI를 매일 사용하고 비즈니스에 활용하더라도, 질문에 대한 주도권만큼은 놓지 말아야 합니다. 질문하는 능력을 유지하고 발전시키는 것이 AI 시대를 주도적으로 살아가는 핵심 역량입니다.

옥스퍼드와 케임브리지의 철학 수업에서 다뤄진 72개의 질문 속에는 실제로 500여 개의 연결된 질문들이 서로 얽혀 작용합니다. 이러한 질문들을 연구하는 것은 단순히 철학을 배우는 것이 아니라, 질문이 어떻게 우리 삶의 실제 기술이 되고 역량이 되는지 배우는 과정입니다. AI 시대에 철학이 필요한 이유는 바로 여기에 있습니다.