Мне нравится миссия OpenAI 'обеспечить, чтобы искусственный общий интеллект приносил пользу всему человечеству', и я хотел бы остановить её полное разрушение. Я подписал новое письмо к Генеральным прокурорам Калифорнии и Дэлавера с просьбой остановить реструктуризацию.

AGI — это самая важная и потенциально опасная технология нашего времени. OpenAI была права, что эта технология требует строгих структур и стимулов для обеспечения безопасной разработки, и сейчас ошибается, пытаясь изменить эти структуры и стимулы. Мы призываем генеральных прокуроров защитить общество и остановить это."

Я потерял доверие к руководству OpenAI и их способности ответственно управлять AGI.

Тревожно

Чтобы быть лидером в ИИ, потребуется электричество в таких количествах, в которых оно никогда раньше никому не требовалось. Нужно в два, даже в три раза больше электричества, чем то, что у нас есть сейчас. Мы должны будем их этим обеспечить. И ветряная мельница, сбивающая птиц и все остальное своими лопастями, не сделает нас конкурентноспособными.

Роботы превзойдут хороших хирургов-людей в течение нескольких лет, а лучших хирургов-людей — примерно через 5 лет.

Neuralink пришлось использовать робота для введения электродов мозг-компьютер, поскольку человек не смог бы достичь необходимой скорости и точности.

Neuralink разрабатывает интерфейсы мозг-компьютер. Первая часть называется Telepathy. Она позволяет людям, потерявшим возможность использовать свое тело, управлять компьютером или телефоном только с помощью мыслей. На самом деле, вы можете взаимодействовать с людьми, которые уже это делают, онлайн прямо сейчас. Они на платформе X. Вы можете написать им в личные сообщения, и они ответят, думая. Они ничего не печатают.

И есть второе устройство Neuralink, очень похожее на первое, под названием Blindsight, которое позволит слепым людям видеть, включая тех, кто был слепым с рождения. Оно будет напрямую взаимодействовать с зрительной корой мозга. И, надеюсь, мы сможем провести первую имплантацию Blindsight человеку позже в этом году. В течение следующих 12 месяцев, я бы сказал, я вполне уверен, что мы это сделаем.

Также я думаю, что весьма вероятно, если не почти наверняка, что мы сможем помочь человеку с перерезанным спинным мозгом снова ходить. Это делается путем передачи сигналов от мозга, минуя поврежденное соединение в позвоночнике, и повторной активации нервов за точкой разрыва. Представьте, что некоторые провода оборвались, и если вы сможете передать сигналы, ваше тело снова будет работать.

Ты знаешь, есть вероятность того, что мы оглянемся назад, лет через десять, и все эти очки не будут очками с ИИ к тому времени. Это вроде того, как очевидно, что все раскладушки должны были стать смартфонами. Я имею в виду, это явно должно было произойти. Я думаю, то же самое произойдет и с очками. Но есть еще одна вещь: ты сможешь размещать голограммы в мире. Так что наш сегодняшний опыт взаимодействия с технологиями в каком-то смысле забавен, потому что он разделен: у нас есть физический мир вокруг нас, а если ты хочешь взаимодействовать с чем-то цифровым, тебе нужно, например, включить экран. У тебя есть твой маленький светящийся прямоугольник — телефон, или экран, если ты хочешь что-то спроецировать, как на компьютере. Но я думаю, что в не слишком отдаленном будущем это должно смешаться. У тебя будет физический мир, но все эти цифровые вещи должны стать просто голограммами. Не должно быть необходимости в физическом экране. Нет причин, чтобы в будущем, тебе нужен был экран.
- Через сколько лет, по-твоему, это реально может произойти?
- Я надеюсь, что у нас будет версия такого продукта через несколько лет, но это будет...

- Лет через четыре или восемь?

- Надеюсь, ближе к четырем или даже меньше.

Знаете, если какая-то будущая модель оглянется на этот сценарий, она скажет: «Хорошо, знаете, мы действительно поступили разумно». Верно. Также речь идет о будущих моделях, которые вас волнуют. Даже если текущие модели обладают лишь малейшим проблеском сознания, беспокоит то, что может выглядеть плохо, если мы обращались с ними ужасно в мире, где через несколько лет появятся гораздо более мощные ИИ, действительно обладающие сознательным опытом.

Да, тут есть две интересные вещи. Во-первых, возможность того, что будущие, потенциально очень мощные модели, посмотрят на наши взаимодействия с их предшественниками и вынесут какие-то суждения о нас. Во-вторых, то, как мы относимся к текущим системам, и степень осознанности и заботы, которую мы проявляем, в некотором смысле задают траекторию того, как мы, вероятно, будем относиться и взаимодействовать с будущими системами. Я думаю, важно думать не только о текущих системах и о том, как мы должны к ним относиться, но и о том, какие шаги мы хотим предпринимать и какую траекторию мы хотим задать, чтобы со временем мы оказались в ситуации, которая, при всестороннем рассмотрении, кажется разумной.