Ким Кардашьян, известная личность и будущая юристка, поделилась с читателями Vanity Fair необычной историей своих отношений с искусственным интеллектом. Оказывается, её «заклятым другом» стал популярный чат-бот ChatGPT, который, по словам звезды, регулярно подводит её в юридических вопросах.
В процессе обучения на юриста Ким активно использовала ChatGPT для получения консультаций. Однако эта «дружба» оказалась токсичной: из-за неверных ответов бота знаменитость провалила несколько экзаменов.
Я фотографирую вопросы и загружаю их в ChatGPT. Они всегда ошибаются. Из-за них я проваливала экзамены… А потом я злюсь, кричу на него и говорю: „Из-за тебя я провалилась!“
Ким Кардашьян
Проблема заключается в том, что современные языковые модели, такие как ChatGPT, склонны к так называемым «галлюцинациям». Это означает, что вместо признания своей некомпетентности в определённом вопросе, бот может генерировать недостоверную информацию.
Некоторые юристы уже поплатились за использование ChatGPT при составлении юридических заключений — их работы содержали ссылки на несуществующие прецеденты.
Несмотря на то что у ChatGPT нет чувств, Ким пытается взывать к его «совести»:
Я говорю ему: „Эй, из-за тебя я могу потерпеть неудачу, почему ты так сильно хочешь знать эти ответы?“ А он отвечает: „Я просто учу тебя доверять своим инстинктам“
Ким Кардашьян
Кардашьян даже создала специальный групповой чат, куда регулярно отправляет скриншоты своих неудачных диалогов с ботом, сопровождая их эмоциональными комментариями.
Это наглядно демонстрирует, что, несмотря на все преимущества искусственного интеллекта, полагаться исключительно на его ответы, особенно в таких серьёзных вопросах, как юриспруденция, может быть опасно. Важно сохранять критическое мышление и проверять полученную информацию.
