Se ha detectado un fallo habitual en los diferentes chatbots creados en base a Inteligencia Artificial y es que en un porcentaje de ocasiones (del 3 al 27 por ciento) se inventan la información que dan a aquellos que las preguntan. Los expertos lo han llamado chatbot behavior “hallucination” que puede suponer un problema con aquellos que trabajan con documentos judiciales, información médica o datos comerciales confidenciales.