ChatGPT — потужний інструмент, який генерує текстові відповіді на основі величезного масиву даних, але це не база даних фактів. Він створює plausibly sounding responses (відповіді, які звучать переконливо й логічно, навіть якщо вони можуть бути неточними чи вигаданими) за допомогою мовних патернів, тож навіть коли відповіді звучать упевнено, вони можуть бути хибними або неповними. Огляди показують, що модель може помилятися у простих запитаннях та продовжувати помилятися навіть після корекції. Це означає, що його висновки треба сприймати як пропозиції, а не істину. Тому користувачеві важливо дотримуватись правил безпеки й перевіряти інформацію.
