Какими бы ни были перспективы по усовершенствованию Искусственного  Интеллекта (далее – ИИ), пока что он всё ещё не может обходиться без контроля человека.

Сказанное подтверждается тем, что порой ИИ может «натворить» таких вещей, которые будут противоречить действительности.

Так, в одном из дел техасский судья Брэнтли Старр (Brantley Starr) обязал адвокатов лично подтверждать, что «ни одна часть предоставляемых документов не была подготовлена при помощи сервисов генеративного искусственного интеллекта». В тех случаях, если ИИ всё-таки привлекался к работе, адвокаты должны подтвердить, что результаты такой работы были проверены человеком.

Данный вывод судьи небезоснователен. ИИ – это не человек, а машина, которая может дать сбой или сгенерировать свои фантазии. Возможно, такое решение судьи основывалось на том, что незадолго до этого в окружном суде Нью-Йорка адвокатом были поданы документы, в которых по итогу выявилась недопустимая ошибка. Документы, подготовленные с помощью ИИ ChatGPT, содержали в себе ссылки на целых 6 судебных дел, которые никогда не существовали, а попросту были сгенерированы искусственным интеллектом.