반응형
회사생활
-
AI를 믿으면 안 되는 순간판단을 위임하지 않는 것AI는 틀린 답을 자신 있게 내놓는 경우가 있다. 나는 주로 일을 할 때 LLM을 많이 사용하다 보니, 일터에서의 사례가 많다. 내가 현재 진행하고 있는 프로젝트는 수백억 규모의, 레거시가 많은 과제이다. 그래서 수십, 수백개의 현행 문서를 읽어야 하는데, 기획자는 나 혼자인 상황이기에, AI의 도움을 빌려야 하는 상황이다. 몇십 개의 문서를 AI에게 주면서 이렇게 요청했다. '이걸 학습하고, 제가 질문하면 그에 맞는 대답을 해주세요.' 마치 도메인 전문가처럼 쓰려는 의도였다. 그런데 AI가 내놓는 설명이 이상했다. 내용을 잘 모르는 사람이 봐도 맥락이 어긋난다는 게 느껴졌다. 근거와 출처를 대보라고 하니, AI는 이렇게 대답했다. '죄송합니다. 그건 제가 지어낸 이야기였습니다..
반응형