인공지능, 이제 ‘모른다’고 말할 수 있게 되다
고대 철학자는 “자신이 알지 못한다는 것을 아는 것이 참된 배움의 출발점”이라고 강조했습니다. 그렇다면 인공지능도 이런 깨달음을 가질 수 있을까요?
지금까지는 불가능하다고 여겨졌습니다. 인공지능은 답을 모르는 질문을 받아도, 자신이 모른다는 사실조차 인식하지 못한 채 거짓 답변을 만들어내고 확신에 찬 태도로 응답했습니다. 이런 허상 문제는 인공지능 활용의 큰 걸림돌이었습니다.
하지만 이제 상황이 달라졌습니다. 국내 연구진이 모르는 것을 솔직히 모른다고 답하는 인공지능을 개발했기 때문입니다.
문제의 원인을 찾다
연구팀은 인공지능이 틀린 답을 자신있게 제시하는 근본 원인을 밝혀냈습니다. 핵심은 깊은학습 방식에 있었습니다.
깊은학습은 정보를 배울 때 각 항목마다 중요도를 부여하고, 학습하면서 이 중요도를 조금씩 수정해나갑니다. 학습량이 많아질수록 중요도는 점점 정확해집니다.
문제는 학습 시작 전 최초의 중요도 설정입니다. 중요도를 비워둘 수 없어서 인공지능은 각 중요도를 임의로 정하고 학습을 시작합니다. 이를 ‘무작위 초기 설정’이라고 부릅니다.
연구팀은 인공지능의 과도한 자신감이 바로 이 무작위 초기 설정 때문이라는 점을 발견했습니다. 충분한 학습으로 중요도가 제대로 조정되지 않은 상태에서, 인공지능은 임의로 설정된 엉터리 중요도에 의존해 답변합니다. 학습 전부터 이미 ‘근거 없이 확신하는 상태’인 것입니다.
사람의 뇌에서 해답을 찾다
해결의 실마리는 사람의 두뇌 작동 방식에서 찾았습니다. 사람의 뇌는 태어나기 전부터 외부 자극 없이도 스스로 신경 활동을 하며 신경 연결망을 만듭니다. 바깥세상을 경험하기 전에 이미 회로를 구축해 학습 준비를 하는 것입니다.
연구팀은 인공지능 학습에도 준비 단계를 추가하는 방법을 고안했습니다. 인공지능이 무작위 잡음으로 사전 학습을 하면 스스로의 불확실성을 먼저 조절할 수 있습니다. 무작위 잡음으로는 만들어낼 답도 없기 때문에, 인공지능은 불필요한 과신을 갖지 않습니다. 이 과정에서 인공지능은 ‘자신이 모르는 상태’임을 인식하게 됩니다.
실험 결과는 놀라웠다
준비 과정을 거친 인공지능 모델은 초기 확신도가 우연 수준만큼 낮아졌고, 기존의 과신 경향이 크게 줄어들었습니다. 실제 정보를 배우기 전에 ‘자신이 아무것도 모른다’는 것을 학습한 덕분에 잘못된 답을 과신하지 않게 된 것입니다.
• 실제 답의 정확도와 인공지능 확신도가 상당히 일치함
• 처음 접하는 정보에 대해 모른다고 판단하는 능력 향상
• 답변의 신뢰도가 크게 높아짐
• 처음 접하는 정보에 대해 모른다고 판단하는 능력 향상
• 답변의 신뢰도가 크게 높아짐
이번 연구는 인공지능이 자신이 무엇을 알고 무엇을 모르는지에 대한 자기인식 능력을 가질 수 있다는 가능성을 제시했습니다. 의료, 법률 등 중요한 분야에도 인공지능을 적용할 수 있는 근거가 마련된 것입니다.
연구를 이끈 교수는 “이번 연구는 뇌 발달 과정을 모방함으로써 인공지능이 사람처럼 자신의 지식 상태를 인식할 수 있음을 보여줬다”며 “정확도를 높이는 것을 넘어 인공지능이 스스로의 불확실성을 판단하는 원리를 제시했다는 데 의미가 있다”고 설명했습니다.