
AI 할루시네이션은 마치 사람이 환각을 보는 것처럼, AI 모델이 실제로 존재하지 않는 정보를 사실처럼 생성하는 현상을 말합니다. Hallucination은 환각이라는 뜻인데, AI가 우리에게 환각을 보인다는 의미이지요. 왜 AI가 할루시네이션을 할까요?데이터 부족: AI 모델은 학습 데이터를 기반으로 작동합니다. 학습 데이터가 충분하지 않거나 편향되어 있으면, 모델은 실제 세상과 다르게 학습하여 잘못된 정보를 생성할 수 있습니다.모델의 복잡성: AI 모델이 점점 복잡해지면서 예측하기 어려운 행동을 보일 수 있습니다. 특히 대규모 언어 모델(LLM)과 같은 복잡한 모델일수록 할루시네이션 발생 가능성이 높아집니다.모델의 목적: AI 모델은 주어진 목적을 달성하기 위해 최적화되도록 설계됩니다. 하지만 이 ..
생활 정보
2024. 8. 3. 12:08