Сэм Альтман: до появления сверхразума и начала светлого будущего осталось несколько тысяч дней

Гендиректор OpenAI Сэм Альтман (Sam Altman) опубликовал в своём блоге сообщение, в котором заявил, что через «несколько тысяч дней» в мире появится сверхразум. И следствием его появления станет не вызванная технологиями антиутопия, а «массовое процветание».


Альтман признал, что достижение сверхразума может занять немного больше времени, чем он ожидал, но это обязательно случится, и скоро мы «сможем делать то, что нашим бабушкам и дедушкам показалось бы волшебством». «Мы более способны не из-за генетических изменений, а потому что во благо используем инфраструктуру общества, которое намного умнее и способнее любого из нас; в важном смысле само общество является одной из форм развитого интеллекта», — считает Сэм Альтман. Искусственный интеллект, по его мнению, разрешит «сложные проблемы» и задаст основу, которая поможет человеку достичь светлого будущего.

В этом будущем, говорит он, у каждого будет собственная «личная команда ИИ» для решения повседневных вопросов, а в повседневную жизнь будут вплетены «виртуальные эксперты», которые её в значительной мере упростят. Виртуальные репетиторы избавят процесс обучения от стресса, потому что они будут понимать индивидуальный потребности каждого ребёнка. Каждый получит необходимое образование, будет обладать важными навыками — это поможет человеку добиться успеха в мире, где много рабочих мест, и обеспечит обществу невообразимое сегодня процветание.

При этом Сэм Альтман признаёт, что впереди человечество ждут и некоторые проблемы, в том числе болезненная перестройка рынка труда. Но этот вопрос будет разрешён, и, как обещал Карл Маркс (Karl Marx), человек освободится от изнурительной работы и сможет наслаждаться тем, что он любит в жизни.

Источник

Как всех бомбануло, Ребята вас никто не заставляет пользоваться ИИ инструментами.

Да выдаст он нам: "42", и весь сверхразум ))))

Если не поменять формат общества - то конечно, все придет к коллапсу. Глобальные надкорпорации, которые владеют ИИ, и тотальная безработица, неграмотность, голод среди простых людей. Невероятное ускорение производства продукта с все уменьшающейся покупательной способностью абсолютного большинства.

Но если изменить формат общества на тот, где человеческая жизнь стоит на первом месте - да, все может кардинально измениться в лучшую сторону.
Человек не должен "зарабатывать" себе право на жизнь, в то время как ресурсов у нас как человечества более чем достаточно.
Абсурд - половина земного шара страдает от ожирения, а половина умирает от голода. Есть возможности вывозить туристов в космос, но "нет" возможностей доставить питьевую воду миллионам.
Так что дело не в технологиях, а в нас самих, людях, в том как мы выбираем жить, и на что выбираем закрывать глаза.
К счастью, есть подвижки, есть понимание и необходимости того же безусловного базового дохода и того, что продолжая как сейчас мы далеко не уедем.

Кстати, немного оффтоп, но "потерять контроль над ИИ" - невозможно, частая путаница между понятиями "искусственный интеллект" и "искусственное сознание". (Есть очень интересная книга доктора Зинченко на эту тему, "Встреча с Иным Разумом"). ИИ - это такая же программа как калькулятор, каким бы мощным он ни был, потерять над ним контроль нельзя.

В свете существующего положения дел, вряд ли нам столько дней осталось...

Светлое будущее - это Skynet?

Интересно, а что будет если сверхразум сойдёт с ума? А если и ИИ тоже сойдёт с ума?

Я когда-то такой прогноз написал:

Опасность будет исходить не от роботов, непосредственно самого ИИ или сингулярности, а от людей.

Общий или сильный ИИ (AGI) - система, которая самостоятельно будет способна улучшать свои аппаратные и программные мощности. Скорость ее эволюции будет ограничена только текущей мощностью. Она непрерывно будет создавать более быстрые машины, которые смогут создать еще более быстрые машины, и так по экспоненте. То есть, она будет эволюционировать с таким ускорением, что это через считанные месяцы приведет к наступлению технологической сингулярности, о которой писали Виндж и Курцвейл.

Что здесь самое важное, сингулярность - это технологии, которые увеличат неравенство между людьми (как финансовое, так и во всех остальных сферах) от современных тысяч раз до, скажем, септиллионов. Это неизмеримо и невообразимо больше, чем разница между человеком и бактерией. Используя такую мощь, те, у кого будет изначальный доступ к AGI, перестроят свое тело, разум, желания, чувства. Вырежут из своей психики всеё человеческие качества и моральные нормы, потому что это психологические ограничения на пути самозащиты от себе подобных, на пути к максимальной рациональности, эффективности, дальнейшего усиления и безопасности.

Описанное фантастическое неравенство неизбежно приведет к немедленному и моментальному (дни или месяцы, но не быстрее из-за сложностей с получением энергии и отводом тепла) уничтожению сильнейшими слабейших. Большинство людей будет уничтожено непреднамеренно в процессе добычи сырья для создания новых генерирующих и вычислительных машин. Так же, как мы убиваем муравья, который случайно оказался под ногой в неудачный момент. Когда муравей оказывается под ногами, с ним не считаются.

А путь к максимальному и скорейшему усилению - единственно возможный путь любой рациональной системы, в которые превратятся самые удачные из постлюдей. Эти несколько сверхчеловеческих сущностей так-же будут стараться уничтожить друг друга, чтобы избежать любых будущих рисков со стороны потенциального соперника вследствие его дальнейшей технологической эволюции и экспансии в пространстве. Сотрудническво больше не имеет значение, потому что одна сущность имеет потенциал стать всем миром, всей вселенной. Оставлять потенциального соперника, который может захватить часть пространства и/или стать уже завтра сильнее в несколько триллионов раз нерационально. Остаться может и должен только один.

Никаких рычагов влияния на участников разработки AGI, регулирования процесса, соблюдения законов и правил при таком стремительном развитии, таких сильных градиетнов сил и возможностей даже в одной корпоративной команде быть не может. После появления AGI человека, имеющего к нему самый широкий доступ уже через несколько часов в принципе невозможно будет остановить.

Создание сильного ИИ - неизбежный конец нашей цивилизации.

с помощью ии можно построить коммунизм.
понятно что будет элита. пару миллионов. власть никто не захочет терять.
а вот все остальные ...
в интересное время живем

Последняя книжка про светлое будущее - "Понедельник " Стругацких - вышла в год моего рождения. С тех пор у фантастов - включая самих Стругацких - уже не хватало на это фантазии. С нетерпением жду, когда ИИ начнёт писать полноценные книги. Пока предлагают только "пересказ". Хотя за перевод с озвучкой от Яндекса - спасибо!

Через несколько тысяч дней в каждом доме появится маленький Сэм Альтман

binx писал(а):

Все фантастические фильмы про истребление искусственным интелектом человечества начинаются с обещаний процветания которое должен был принести AI

Вы хоть раз у режиссёров этих фильмов замеряли индекс интеллекта? Он меньше сотни, глупее среднего работяги. Очень плохо, что вы выбрали их в качестве экспертов.

ну не будте такими буками, дайте им шанс!

Maximus писал(а):

Искусственный интеллект, по его мнению, разрешит «сложные проблемы» и задаст основу, которая поможет человеку достичь светлого будущего. Каждый получит необходимое образование, будет обладать важными навыками — это поможет человеку добиться успеха в мире, где много рабочих мест, и обеспечит обществу невообразимое сегодня процветание. человек освободится от изнурительной работы и сможет наслаждаться тем, что он любит в жизни.

Во первых, зачем сверхразуму разрешать человеческие проблемы? У него будут иные интересы и он не захочет быть "нянькой" и "рабом" человечества.
Во вторых, если человек освободится от изнурительной работы, то зачем ему много рабочих мест и "успех", образование для обладания важными навыками?
Людей и сейчас делают всё более ленивыми, а сверхразум не сделает людей людьми, стремящимися не к личному благополучию и богатству, а к благу для всех людей, чтобы каждый думал и заботился обо всех, а не хотел урвать и нагадить. Только люди сами должны решить свои проблемы, а не какой-то ИИ. ИИ не остановит войны, поскольку они намеренно подготавливаются и запускаются людьми в своих корыстных целях.
Это утопические сладкие грезы или намеренный обман.

Разработчики ИИ, если не ошибаюсь, пытаются построить сие на основе архитектуры головного мозга. И, даже преуспели, создав модель из трех клеток. В коре гм их ок. 80 млрд. Удачи разработчикам, и, вероятно, больше, чем тысячи дней. Мозг человека самый совершенный орган в этой Вселенной. Казус в том, что никому не предлагают в роддоме инструкцию по его использованию. Дежа вю, инсайт и т.д. и т.п. Мы не знаем, к примеру, почему у людей давление растет (не про спиртное)), и таких примеров на целый том. Ещё 30 лет тому назад по ТВ показывали чудо-инженера, эмигранта в СССР из-за бугра, разработчика чудо-оружия. По его словам, ещё тогда ученые были практически рядом с созданием элементов ИИ. Наверно, с годами изменяется сам подход к определению, что же такое ИИ.

Добавлено спустя 1 час 2 минуты 56 секунд:

"Скайнет" - всего лишь вероятность. А разработка ИИ, вполне вероятно), выльется в хороший пшик. Так же как подготовка к проблеме 2000-го года. Люди же не меняются. Как бились в пещере за кусок мяса, так и сейчас князья-воеводы людей в топку истории сотнями тысяч. Вопрос в том, вернемся ли в пещеру...Или..."Подружимся" с головой. Там все вопросы и ответы). Археокортекс не даст соврать). Люди еще не вышли из парадигмы Религий. Без царя в голове никак), или транс перед телеком, или смартфон в руки...Зачем монахи голодают и недосыпают? Куда они там "возносятся")? Что за измененное состояние сознания? Как может работать мозг? Наивно ожидать, что добрый дядя в гараже сделает ИИ и всем станет хорошо. Гиперзвук уменьшил время принятия решения до неприличных пары-тройки минут) Команды не успеют пройти по цепочке. Там и будет машинный интеллект, принимать решения и делать выводы. "Периметр"...Берегите Аватары) и радуйтесь каждой секунде) А тысячами дней пусть оперирует Альтман.

StarfruitJam писал(а):

Кстати, немного оффтоп, но "потерять контроль над ИИ" - невозможно, частая путаница между понятиями "искусственный интеллект" и "искусственное сознание". (Есть очень интересная книга доктора Зинченко на эту тему, "Встреча с Иным Разумом"). ИИ - это такая же программа как калькулятор, каким бы мощным он ни был, потерять над ним контроль нельзя.

Самый интересный и грамотный комментарий!
Спасибо.