Матвей Цзен: Нейросети не понимают, что делают
По мнению адвоката Матвея Цзена, нейросети на текущем уровне развития не способны работать в сфере судопроизводства из-за риска накопления ошибок. Сложные языковые модели не способны мыслить, они лишь находят ассоциации в массивах данных, на которых были обучены.
«Это очень сложные программы, которые, по сути, пытаются подобрать наиболее подходящее слово после того, как уже было сказано предыдущее. Они не думают и не размышляют, а просто пытаются угадать слово, которое соответствует контексту. Все, кто сталкивался с этими большими моделями, отмечают, что у них есть сильная тенденция к «галлюцинациям», когда они сбиваются начинают выдавать совершенно бессмысленные фразы. Это показывает, что, во-первых, они ничего не понимают в том, что делают, а во-вторых, их работа не является надежной», – объяснил адвокат.
Он отметил, что главный предмет рассмотрения в суде – это спорные ситуации, которые невозможно разрешить, не зная контекста. Искусственный интеллект, по мнению юриста, не способен работать на этом уровне.
«В идеале судопроизводство – это рассмотрение спора. Представьте, что вы рассматриваете какой-то конфликт: один человек утверждает одно, другой – другое. Как вы можете, исходя из контекста, определить, кто прав, а кто нет? На самом деле, это невозможно. Если вы просто отказываетесь от своей роли судьи и разрешителя спора, то решение становится случайным. Поэтому в том виде, в котором сейчас существует искусственный интеллект, его нельзя использовать в судопроизводстве», – подчеркнул он.