반응형
  • 자신이 원하는 것이 무엇인지 모르는 사람들

    AI에 대한 흔한 오해가 하나 있는 것 같다. AI는 맥락을 못 읽는다는 것이다. 요즘 매일 LLM을 쓰면서 느끼는 건 아주 반대의 경우다. 나는 요즘 AI는 맥락을 꽤 잘 읽는다고 생각한다. (글을 쓰는 지금으로부터 2주 전에 GPT-6 Astra 모델이 배포되었다) 긴 문서를 던져줘도 흐름을 이해하고, 앞에서 나눈 대화를 기억하고, 상황에 맞는 톤으로 대답한다. 맥락을 잘 파악하는가? 는 더 이상 AI의 약점이 아닌 듯하다. 그러나 AI가 아무리 맥락을 잘 읽어도 해결되지 않는 것은, 바로 사용자 스스로가 뭘 원하는지 모를 때라고 생각한다. 수천 개의 요구사항 요즘 서비스 기획 일을 하면서 클라이언트에게 요구사항을 받으면, 엑셀 시트로 오는 경우가 많다. 내가 투입되는 프로젝트는 수백 개, 많으면..

    2026.09.18
  • AI를 믿으면 안 되는 순간

    판단을 위임하지 않는 것AI는 틀린 답을 자신 있게 내놓는 경우가 있다. 나는 주로 일을 할 때 LLM을 많이 사용하다 보니, 일터에서의 사례가 많다. 내가 현재 진행하고 있는 프로젝트는 수백억 규모의, 레거시가 많은 과제이다. 그래서 수십, 수백개의 현행 문서를 읽어야 하는데, 기획자는 나 혼자인 상황이기에, AI의 도움을 빌려야 하는 상황이다. 몇십 개의 문서를 AI에게 주면서 이렇게 요청했다. '이걸 학습하고, 제가 질문하면 그에 맞는 대답을 해주세요.' 마치 도메인 전문가처럼 쓰려는 의도였다. 그런데 AI가 내놓는 설명이 이상했다. 내용을 잘 모르는 사람이 봐도 맥락이 어긋난다는 게 느껴졌다. 근거와 출처를 대보라고 하니, AI는 이렇게 대답했다. '죄송합니다. 그건 제가 지어낸 이야기였습니다..

    2026.08.10
반응형

+ Recent posts