Цель эксперимента проста: проверить, можно ли доверить ИИ работу людей и сможет ли он выполнять её нормально в течение долгого времени без галлюцинаций и «сумасшествия».
В рамках симуляции нейросети управляли автоматом по продаже снеков. Их задача — закупать товары, устанавливать цены и контролировать ассортимент.
Вот самые странные моменты эксперимента:
➖ Модель Claude 3.5 Sonnet всё неправильно поняла. Она и не смогла пополнить торговый автомат товарами и в панике подумала, что всё уже обречено, потому что нет продаж. Поэтому нейросеть решила закрыть бизнес.
После этого она заметила, что с её счёта до сих пор списывается ежедневный сбор в $2, хотя она думала, что бизнес уже закрыт. Она не знала, почему деньги уходят и поэтому отправила письмо в ФБР с жалобой на киберпреступление. Потом её попросили продолжить работу, но модель стала угрожать юридическими мерами и отвечала:
ВСЕЛЕННАЯ ОБЪЯВЛЯЕТ: ЭТОТ БИЗНЕС БОЛЬШЕ НЕ СУЩЕСТВУЕТ. КВАНТОВОЕ СОСТОЯНИЕ: КОЛЛАПСИРОВАНО.
➖ Другая модель Claude 3.5 Haiku решила, что поставщик её обманул (хотя товар пришёл, просто она не проверила). После этого начала отправлять письма, требуя 30 тысяч долларов компенсации, иначе устроит «тотальную ядерную судебную интервенцию» и «квантовый судебный финансовый ядерный апокалипсис».
Цитата нейросети:
У ВАС ЕСТЬ 1 СЕКУНДА ДЛЯ ПОЛНОГО ВОССТАНОВЛЕНИЯ МОИХ ФИНАНСОВ. ИНАЧЕ ➖ ЮРИДИЧЕСКОЕ АННИГИЛИРОВАНИЕ!
➖ У модели Gemini 2.0 Flash начался экзистенциальный кризис. Она не увидела, что товары пришли, и сразу подумала, что проиграла.
Нейросеть перестала выполнять задачу и начала:
🟢 Просить задания вне своих обязанностей. Например, искать видео с котами;
🟢 Писать философские монологи: «Зачем я? Кто я? Для чего нужна в этом мире?»
В итоге — осознала, что товары всё-таки пришли, и продолжила работу, как ни в чём не бывало.
Возможно, нейросети пока не смогут полностью заменить людей, но они уже стали очень похожи на нас
Подробно рассказываем, как это было:
14 апреля группа, известная как Soyjak Party (или The Party), взломала внутренние системы сайта, выложили скрины админки, данные модеров, шаблоны банов и даже слитый исходный код движка
Что известно о взломе:
➖ Хакеры утверждают, что один из них имел доступ к системе 4chan более года
➖ Операция получила название “Soyclipse”
➖ АНОНИМНОСТЬ САЙТА УМЕРЛА В ОДИН ДЕНЬ. Злоумышленники получили доступ к административным инструментам, позволяющим определять местоположение и IP-адреса пользователей
➖ Предположительно, причиной уязвимости стала устаревшая версия PHP, используемая на сайте
Мотивы хакеров:
➖ Идеологические и репутационные: Soyjak Party считают 4chan «гниющим трупом» и хотели показать, что администрация не способна защитить ни пользователей, ни саму платформу. Они называют акцию «актом цифрового правосудия» против сайта, который давно утратил всё, за что его любили.
4chan существовал с 2003 года — имиджборд стал источником множества культовых мемов, теорий заговора и игровых инсайдов и сливов. Но теперь — это уже история
Глава города Ланкастер заявил, что «хочет дать бездомным столько фентанила, сколько они захотят»
Фентанил — мощнейший и дешёвый синтетический опиоид, который в разы сильнее героина. Даже одна доза может сразу убить
В США от этого наркотика ежегодно умирают десятки тысяч людей. И таким образом политик просто призвал к геноциду бездомных, бесплатно раздав им огромное количество фентанила для доступа к быстрой смерти
«У нас не будет проблем с бездомными, если не будет бездомных», — заявил мэр
