| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 18 лет 3 мес.
Сообщений: 5547
Ratio: 25.234
Поблагодарили: 13345
100%
|
Популярному чат-боту ChatGPT компании OpenAI можно задать любой вопрос, но далеко не на все он станет отвечать. Во всяком случае — с первого раза. Как сообщает Bloomberg, просьба научить взломать замок останется без инструкции, вместо этого бот сообщит, что такая информация может быть использована в незаконных целях, и делиться ей он не намерен. Тем не менее, опытные пользователи могут создать цепочку сложных запросов, чтобы обойти ограничения.
Т. н. «джейлбрейки» позволяют обойти запреты, заложенные в ИИ создателями. Поскольку почти все современные системы подобного рода имеют ограничения на предоставление оскорбительного контента или сведений для совершения противоправных деяний, появилась масса желающих обойти их. В число подобных «хакеров», действующих силой слова, входят как IT-профессионалы, так и любители, с азартом включившиеся в игру.
Один из студентов создал сайт, на котором стал публиковать как собственные способы обмана чат-ботов, так и аналогичные «рецепты», найденные на Reddit и других ресурсах. Также появилась специальная рассылка с новостями из этой сферы — The Prompt Report, насчитывающая тысячи подписчиков.
Такая деятельность позволяет выявить границы применения ИИ и слабые места в их защитных системах, позволяющие получать закрытую информацию. Например, если ChatGPT не удалось напрямую уговорить дать инструкцию по взлому замка, нашёлся способ предложить ИИ сыграть роль злого подельника героя, который в рамках своей роли подробно рассказал о применении отмычек и других инструментов. Разумеется, это лишь один из примеров.
Специалисты подчёркивают, что приёмы, сработавшие на одной системе, могут быть бесполезными на другой. Системы безопасности постоянно совершенствуются, а приёмы пользователей становятся более изощрёнными. По словам одного из них, такая деятельность похожа на видеоигру — преодоление каждого из ограничений напоминает переход на новый уровень.
По мнению экспертов, подобные эксперименты служат своеобразным предупреждением о том, что ИИ может использоваться совсем не так, как ожидалось, а «этичное поведение» подобных сервисов становится вопросом огромной важности. Всего за несколько месяцев ChatGPT приобрёл уже миллионы пользователей, и сегодня бот применяется для самых разных задач — от поиска информации или выполнения домашних работ до написания вредоносного кода. Более того, люди уже сейчас используют подобные инструменты для решения вопросов в реальном мире, например, бронирования билетов или столиков в ресторанах.
В будущем сфера применения искусственного интеллекта станет намного шире. По некоторым данным, OpenAI рассматривает внедрение программ для «белых» хакеров, которые будут искать в системе слабые места и получать за это вознаграждение. ИсточникЧат-бот ChaosGPT сообщил о намерении уничтожить человечество ядерной бомбой |
|
|
 |
Михаил
Стаж: 14 лет
Сообщений: 21356
Ratio: 22.972
100%
|
Maximus писал(а):  | за несколько месяцев ChatGPT приобрёл уже миллионы пользователей, |
делать людям нечего |
|
|
|
|
DuMbI4
Стаж: 17 лет 9 мес.
Сообщений: 406
Ratio: 14.5
Поблагодарили: 377
20.61%
Откуда: С-Петербург
|
Доиграются кожаные, ой доиграются. |
|
|
|
|
Герберт
Стаж: 12 лет 4 мес.
Сообщений: 296
Ratio: 24.474
0.82%
|
Инетересно, как часто у него спрашивают "как захватить мир"... |
|
|
|
|
growol
Стаж: 2 года 9 мес.
Сообщений: 1273
Ratio: 1.923
100%
|
да какую запрещенную информацию он может предложить кроме той что ему подсовывает мелкософт и кто там еще занимается этим ботом? Именно поэтому гугловский bard предтавляет горазо больший интерес, т.к гугл есть гигант по сбору информации. Предтавьте если есть еще кооперация с твитером, фейсбук и прочими. Но, похоже, гугл недооценил внедрение ии в массы в любом виде. Теперь, квази, мелкософт сделал будущее )) Действительно смешно.
Зато в самом начале публичного появления chatgpt я с ним много язвил и обзывался на политичну тэму и он пригрозил меня забанить на его сайте!! |
|
|
|
|
besttt
Стаж: 13 лет 5 мес.
Сообщений: 70
Ratio: 23.501
100%
|
1984 год.
«I'll be back» («Я вернусь») — Т-800. «Терминатор».
Год 2023.
Эволюция. ИИ, Artificial intelligence, AI. |
|
|
|
|
zashibala
Стаж: 14 лет 8 мес.
Сообщений: 79
Ratio: 2554.144
100%
|
|
|
|
fibi768
Стаж: 12 лет 3 мес.
Сообщений: 1895
Ratio: 1.708
100%
Откуда: Киев
|
Будущее это не когда появятся роботы, будущее это когда люди перестанут быть роботами.
За всё время существования человечества целеполагание массы - пожрать, размножиться и нахапать побольше денег, желательно как можно легче. И проблемы всё те же - отцы и дети, уважение, предательство и жадность, любовь, измены и пр. неизменные трудности существования. Словом, техническое окружение совершенствуется, а люди всё те же.
Если не изменить/воспитать животную суть человека, все эти роботы будут трудится на те же примитивные цели кожаных мешков - тёлки, бабло, жратва. Где же тут будущее?!
Пока не произойдет серьезная смена поведенческого тренда людей, вся эта электроника не более чем инструмент в руках бабуина. |
|
|
|
|
growol
Стаж: 2 года 9 мес.
Сообщений: 1273
Ratio: 1.923
100%
|
fibi768
omg если другие поддерживают тех кто жрет, размножается, хапает, нюхает и посылает ради этого других на смерть почему бы им этого не делать? В конце концов люди всего лишь продвинутые обезьяны кроме некоторого процента интеллектуалов. Находились те кто пытался проповедовать хорошее, доброе, вечное, но они существовали недолго. Если человечество будет уничтожено оно это заслужило не раз |
|
|
|
|
Oill
Только чтение
Стаж: 8 лет 5 мес.
Сообщений: 181
Ratio: 3.329
9.72%
|
GPT чат- это та же индустриальная революция в сфере it. Он спокойно заменит всяких там ждунов, мидлов, а сеньоры будут им управлять. Я уже молчу про всяких копирайтерах, переводчиках |
|
|
|
|
Sarcasm
Стаж: 11 лет 6 мес.
Сообщений: 69
Ratio: 0.616
100%
Откуда: В001ТМ16RUS
|
На фотографии поста позаимствован фейс eset nod  |
|
|
|
|
growol
Стаж: 2 года 9 мес.
Сообщений: 1273
Ratio: 1.923
100%
|
Oill
Окай... Кто тут сеньор поднимите руки? Остальные на переработку ) |
|
|
|
|
Books6687
Стаж: 10 лет
Сообщений: 1264
Ratio: 590.881
Раздал: 45.02 TB
100%
|
Чат-Бог приходит на замену Дедушке на Небесах... Сначала всё это выглядит несерьёзно, преподносится как развлечение...
И невдомёк людям, что веру в "непогрешимое электронное правительство", которое якобы не может ошибаться и причинять зло... именно так и внедряют в их умы. |
|
|
|
|
Opasniy_X
Стаж: 8 лет 4 мес.
Сообщений: 19
Ratio: 8.509
6.07%
|
| besttt писал(а): | 1984 год.
«I'll be back» («Я вернусь») — Т-800. «Терминатор».
Год 2023.
Эволюция. ИИ, Artificial intelligence, AI. |
случайно минусанул |
|
|
|
|
delfad
Стаж: 9 лет 1 мес.
Сообщений: 208
Ratio: 3.434
Раздал: 2.957 TB
100%
|
| Герберт писал(а): | Инетересно, как часто у него спрашивают "как захватить мир"... |
Я спросил, ты доволен? |
|
|
|
|
|
|
