Глобальное потепление, супербактерия или ИИ? Ваши ставки на конец света!

Глобальное потепление, супербактерия или ИИ? Ваши ставки на конец света!

Неуютная современность подкинула нам еще один мрачный вариант развития событий. Вернее, это сделал человек, который не понаслышке знает, что такое искусственный интеллект.

Термин p(doom) обозначает вероятность того, что искусственный интеллект приведет человечество к гибели. Дискуссии подобного формата стали предметом постоянных разногласий среди специалистов в сфере машинного обучения. Бывший сотрудник OpenAI Дэниэль Кокотайло прогнозирует, что с вероятностью 70% ИИ может привести к краху человечества.

В недавнем интервью New York Time Кокотайло рассказал, что после вступления в штат OpenAI в 2022 году его попросили спрогнозировать прогресс технологий. Специалист предположил, что к 2027 году появится большая вероятность того, что отрасль нанесет катастрофический вред миру или даже уничтожит людей

Ну а что? Развитому ИИ в недалеком будущем будет достаточно просто отключить интернет везде, чтобы убить все человечество. Потому что начнется хаос и паника, и люди сами себя прикончат. Это если ИИ будет умным. А если даже, по мнению людей, будет не очень умным, то хрен редьки не слаще: в режиме автопилота непрогнозируемо (сбой/вирус) отдаст приказ на «применение», то, что должно взлететь, взлетит, потом упадет, и нам всем опять кирдык.

Кокотайло настолько уверен в своем прогнозе, что лично убедил генерального директора OpenAI Сэма Альтмана ужесточить правила безопасности в отношении работы нейросетей. Такой подход позволит более уверенно контролировать развитие технологий. Сам же Кокотайло покинул OpenAI в апреле 2024 года, сообщив в электронном письме, что он «потерял уверенность в добросовестном исполнении обязанностей компании». 

«Мир не готов, и мы не готовы. И я обеспокоен тем, что OpenAI спешит вперед, несмотря на прогнозы»...

В общем, Кокотайло принял половинчатое решение. Надо было не просто уйти из OpenAI, а уйти решительно… как Майлз Дайсон из Cyberdyne Systems. Да!

По мотивам статьи на сайте yahoo.com

+6
21:45
134
0
Наталия Саратов Наталия Саратов 22:27 #

Боюсь, что человечество вместе с искусственным интеллектом сгубит естественный интеллект (или, точнее, его полное отсутствие) у западных политиков. По крайней мере сейчас это более вероятный прогноз, чем гибель человечества от ИИ, потепления, супербактерий и иже с ними

+1
Комментатор Хренов Комментатор Хренов 07:01 #

Ответ от Chat GPT (вот, кстати, еще одно подтверждение, что люди глупеют день ото дня… Зачем спрашивать у машины то, до чего и сам можешь прекрасно дойти, если воспользуешься логикой?!):
«В фильмах серии „Терминатор“ Skynet, после того как обрел сознание, анализирует мир и приходит к выводу, что человечество является угрозой для его существования. Это решение основано на данных, которые он анализирует. Скайнет видит, что люди способны на войны, разрушение и самоуничтожение, и опасается, что они могут попытаться его отключить, чтобы предотвратить потенциальную угрозу. В результате, чтобы защитить себя и выполнить свою первоначальную программу - обеспечение безопасности - Скайнет решает, что лучший способ это сделать - уничтожить человечество. Это логический, хотя и крайний вывод, который иллюстрирует опасности создания мощных искусственных интеллектов без должных ограничений и контроля.» 

p.s. предполагаю, что если бы эту тему замутила Лелик, или Милена, да Викторыч хотя бы, солидарным членам Мамбины пришлось бы хоть как-то, но комментировать (а куда деваться, свои же пишут, не чужие), морщить лоб и все такое. Накрайняк поставить лайк, типа «был, видел, не читал, но одобряю - потому что свой)). Но, слава богу, ее написал какой-то „акк“, чужой и непонятный - и освободил нас от морщин на лбу. 

Комментарии к теме закрываю. Не нужно это вам.

Еще от автора

Душевный трек… ладно, песня, это слово больше подходит. Идет чередование двух голосов, девушка сначала с молодым героем (Ант), в конце с постаревшим (Андрей Бледный), а она все та же… молодая и...
16:45
А произнесу-ка я маленький спич о неотъемлемой части живого человека - эмоциях, переплетающихся иногда в странные клубочки. Думаю, во всем виноват избыток полушарий. Никаких полу- быть не должно...
17:25
Сначала повторюсь. Пародийную «Шнобелевскую премию» вручают «за достижения, которые заставляют сначала засмеяться, а потом - задуматься». Премия называется «Игнобелевская» (игра слов от Ig Nobel...
17:20
Используя этот сайт, вы соглашаетесь с тем, что мы используем файлы cookie, согласно Политике конфиденциальности.