Можем ли да обучим хората да ги разпознават?
Представете си следния пример, който би засегнал и академичните научни разработки и курсовите работи на студенти, и домашните работи на ученици, които решат да ползват ИИ в ежедневиeто си, без да познават рисковете на „халюцинациите“. Един изследовател решава да използва голям езиков модел (чатбот), за да събере информация за „историята на българския интелектуален капитал“. Чатботът може да генерира привидно добре структуриран, последователен и информативно изчерпателен отговор, който обаче да включва измислени ключови данни. Например ИИ може да измисли имена на видни български интелектуалци, които никога не са съществували, като им припише конкретни (и правдоподобно звучащи) теории или публикации. Може да спомене „професор Иван Петров“, който уж е бил пионер на „българската теория за икономика на знанието“ в началото на 20 век, и да цитира несъществуваща статия в списание.
