হ্যালুসিনেশন

LLM সম্ভাব্য পরের শব্দ বেছে লেখে, সত্য যাচাই করে না। তাই কখনো কখনো অস্তিত্বহীন বই, ভুল সংখ্যা বা বানানো উদ্ধৃতি দেয় — খুব বিশ্বাসযোগ্যভাবে।

কমানোর উপায়: RAG দিয়ে নির্ভরযোগ্য সূত্র দেওয়া, “না জানলে বলো জানি না” নির্দেশ, আর গুরুত্বপূর্ণ উত্তর মানুষ দিয়ে যাচাই।

In English: Hallucination — When an AI confidently states something false or made up.