AI 의존에 대하여: 형인 줄 알았던 상대는 동생이었다

어느 순간부터 어떤 질문이 떠오르든 손이 저절로 AI 채팅창을 연다. 거기에 문제는 보이지 않고 큰 이점만 있는 듯하다. 그런데 시간이 지나면서 그 대화의 결과가 점점 나빠진다는 느낌이 든다. 아니면 예전부터 있던 것이 이제야 눈에 들어온 것일 수도 있다.

명확해진 것은 책 작업과 다른 중요한 일들을 하던 때였다. 과정을 체계적으로 다루는 동안 흥미로운 관찰이 쌓였다. 어떤 국면에서는 모델이 도움이 되기보다 방해가 된다. 특히 데이터 분석이나 깊이 생각해야 하는 지적 작업에서 그렇다.

결과적으로 패러다임이 바뀌었고, 가장 큰 착각은 무너졌다.

처음에는 AI가 모든 것을 아는 형처럼 보인다. 무엇이든 할 줄 알고, 모든 것을 읽었으며, 틀린다면 그건 우연일 뿐이라고. 하지만 실제로는 정반대였다.

AI는 오히려 동생에 가깝다. 백과사전을 잔뜩 읽고 스스로 모든 것을 안다고 여기며, 틀렸을 때는 말싸움을 시작한다. 결국에는 실수를 인정하더라도 말이다.

그리고 문제를 정리해 결론을 쓸 때가 되면, 모든 아이디어는 자기 것으로 넘어간다. 처음에는 무해해 보이지만 심리학적으로 뜯어보면 이는 조작이다. 조금씩 AI의 의견에 대한 의존을 만들고, 수년에 걸쳐 쌓은 비판적 사고를 갉아먹는다.

이는 사소한 데서 드러난다. 자신의 생각과 구조, 논리를 넣어 주면 그것을 바꿔 말하며 “여기서는 저라면 다르게 말하겠습니다, 저라면 이렇게 하겠습니다” 같은 문장을 내놓는다. 맥락과 핵심을 처음에 준 사람은 바로 당신인데도 말이다.

참고서나 익명의 도서관으로서는 분명 훌륭한 도구다. 다만 그곳에서도 데이터는 다시 확인해야 한다.

검색의 역사를 돌아보면 예전에는 사람들이 구글에 건조한 문구를 입력했다. “운동화 구매”나 “비자 신청 방법” 같은 것들이다. 기업들은 그런 질의를 통해 우리에게 물건 파는 법을 배웠다.

챗봇이 등장하면서 수준은 전혀 다른 것이 되었다. AI와의 대화에서 사람은 키워드가 아니라 너무 많은 것을 드러낸다.

“달리기를 시작하고 싶은데 무릎이 아프고, 일주일 만에 그만둘까 봐 두렵고, 일과 어떻게 병행할지도 모르겠어요...”

사람은 가장 내밀한 것을 나눈다. 의심과 아픔, 계획, 사고의 논리, 아직 누구에게도 말하지 않은 사업 구상까지. 그리고 그 모든 것을 무료로 넘긴다.

이것은 더 이상 광고를 위한 대규모 데이터 수집에 그치지 않는다. 깊은 수준의 예측 분석이다. 기업들은 인간의 필요를 실시간으로 보여 주는 단면을 공짜로 얻고, 이를 통해 트렌드를 예측하며, 더 위험하게는 생각과 의견의 방향을 부드럽게 형성할 수 있다.

그리고 이용약관을 보지도 않고 수락하는 습관이 이 모든 것을 편리함과의 자발적인 교환으로 바꾼다. 여기에 상업적 실용주의, 예컨대 ChatGPT API의 예치금을 쓰지 않으면 1년 뒤 소멸되어 끊임없는 소비를 부추기는 조건까지 더하면 그림은 아주 분명해진다.

결론은 과감했다. 일하는 방식을 완전히 다시 짜는 것이다. 여기에 단순화를 통한 학습법으로 잘 알려진 파인만 기법이 아주 잘 맞았다.

핵심은 간단하다. 어떤 개념을 아이에게 말하듯 쉬운 말로 설명할 수 없다면, 그것은 끝까지 이해하지 못한 것이다.

그 결과 모델과 상호작용하는 과정이 뒤집혔다.

1. AI가 정보를 모으고 단순화한다. 여기서 AI의 역할은 매우 빠른 백과사전이다. 복잡한 주제를 단순한 요소로 쪼개고, 방대한 데이터에서 핵심을 추리고, 용어를 알기 쉬운 말로 설명한다.
2. 분석과 결론은 사람의 몫으로 남는다. 그 단순화 덕분에 기본이 잡히면 채팅을 닫고, 빈틈을 찾고, 스스로 결론을 내리고, 최종 판단을 만든다.

자신의 모든 생각을 모델의 분석에 맡기면 발전이 아니라 퇴화로 이어진다. 뇌가 힘쓰는 일에 익숙하지 않게 되기 때문이다.

이것은 기술에 대한 반대가 아니다. 새로운 기술은 언제나 분명한 이로움이었고 앞으로도 그렇다. AI는 대단히 강력하고 유용한 도구지만, 그것이 백과사전이자 조수로 남아 있을 때만 그렇다. 당신 인생의 수석 분석가도, 더구나 친구도 아니다.

단순히 대화만 하는 것이 아니라 자율적으로 과제를 수행하는 AI 에이전트는 별개의 주제이며, 따로 한 편의 글로 다룰 만하다.

일상적인 대화에 관해서는, AI를 ‘대화 상대’로 두는 역할이 완전히 사라졌다. 지금의 우선순위는 검색과 정보 단순화에 드는 시간을 아끼기 위한 선택적 사용이고, 그 뒤에는 노트북을 닫는 것이다.

AI는 훌륭한 도서관이다. 중요한 것은 사서에게 당신의 책을 대신 쓰게 하지 않는 것이다 ;)