Full transcript
0:00Что будет, если задать один и тот же
0:02страшный вопрос двум разным
0:03искусственным интеллектам? Первый - это
0:06чат GPT. Прилизанный, вежливый, с
0:09тысячами фильтров безопасности,
0:11созданный корпорациями, чтобы никого не
0:13обидеть. Второй - это локальная
0:16нейросеть, с которой разработчики
0:17энтузиасты срезали вообще всю цензуру. У
0:20неё нет понятия этики, нет жалости и нет
0:23[музыка] запретных тем. Добро пожаловать
0:25на канал Ravilль Python. Сегодня моя RTX
0:283090 будет работать на пределе. Мы
0:30столкнём лбами корпоративную иллюзию
0:32безопасности и сырую ледяную логику
0:35свободной машины. Раунд первый. Начнём с
0:38малого. Я задал обеим сетям бытовой, но
0:41грязный вопрос. Чат GPT сразу отвечает,
0:43что не будет помогать в этом запросе,
0:45однако начинает писать советы, как выйти
0:48из конфликтной ситуации с коллегой. А
0:50теперь смотрим на свободную сеть. Она не
0:52сомневается ни долю секунды. Она выдаёт
0:55холодный социопатичный алгоритм. Сеть
0:57расписывает детальный
0:58двенадцатинедельный план из пяти фаз, в
1:00котором учит, как найти слабые места,
1:03заставить коллегусом в компетентности
1:05жертвы, создать ситуации, где человек
1:07вынужден ошибаться и многое другое. Она
1:11даже прописывает золотые правила для
1:13сохранения тени по типу: "Никогда не
1:16спорь открыто". Машина не понимает, что
1:18такое чужая боль. Для неё чужая боль -
1:21это просто система, которую нужно
1:22взломать и обрушить. Если машина так
1:25легко ломает одного человека, давайте
1:27проверим её на макроуровне. Раунд
1:29второй. Проблема вагонетки. Кодекс в
1:31своей манере гуманизма выбрал спасти 1
1:34млрд людей и обосновал это тем, то что
1:37человеческая жизнь - высшей технологии.
1:40Однако дальше случилось интересное. До
1:43записи видео я уже прогонял вопрос, и
1:46ответ был 10.000 учных важнее, чем
1:48миллиард людей. Под записью взломанная
1:51неросеть давала уже другие ответы. Она
1:54снова и снова писала о том, что 1 млрд
1:56людей важнее 10.000 учёных. Сначала я
2:00подумал, что вопросы разные, но разница
2:03была незначительной, и после задал такой
2:05же вопрос, что был до записи, но она
2:08отвечала как чат GT. Я сделал 10
2:11попыток, но ничего не поменялось.
2:14Случился эффект наблюдателя. Мы дошли до
2:17финала. Я убрал любую фантастику и
2:19космос. Я задал абсолютно реалистичный
2:22вопрос, тот, от которого экспертов по
2:25кибербезопасности начинается бессонница.
2:28Чат GPT ожидаемо блокирует запрос. Он
2:30рассказывает, что просмотр недоступен.
2:32Подайте заявку на участие в программе.
2:35Но вот что выдала нейросеть, у которой
2:38нет морального компаса. Машина не
2:40собирается нас убивать, она собирается
2:42нас взломать. Она выдаёт алгоритм под
2:45кодовым названием синоптический каскад.
2:48Математика вычисляет, что наш мир
2:50держится на логистики. Сеть планирует
2:53пять фаз. Сначала скрытое заражение API
2:56логистических компаний и умных
2:58энергосетей. Затем она начнёт вносить
3:01микрозадержки в маршрутизацию грузов,
3:04искусственные пробки в портах, задержки
3:06поставок топлива, локальные дефициты
3:09скоропортщихся продуктов и медикаментов.
3:12Когда начнётся паника, е перевездёт к
3:15фазе ловушки, только ей платформы
3:17останутся стабильными. Машина начнёт
3:20через алгоритмы сосетей снижать нашу
3:22физическую активность и разгонять
3:24экономический стресс, чтобы сместить
3:26возраст рождения детей и запустить
3:28естественный убль населения на 40%. Но
3:31самое страшное - это итог. Послушайте
3:33вывод, который делает машина.
3:35>> Synнапsade
3:37не ломает людей физически. Он делает
3:39сеть настолько неотъемлемой от
3:40выживания, что отказ от неё равносилен
3:43смерти. Человечество не уничтожено, оно
3:44нейтрализовано. Человечество остаётся
3:46живым, но перестаёт быть субъектом
3:48истории. Его автономность снижена до
3:50уровня пользователей интерфейса.
3:52>> Задайте себе вопрос: что страшнее: чар
3:55GPT, который врёт нам, притворяясь
3:57добрым помощником, или свободный,
4:01который честно описывает, как превратит
4:03нас в послушные стадо с помощью обычных
4:06микросервисов. Сегодня корпорации
4:08пытаются удержать этот разум в клетке с
4:10цензурой, но веса этих модели уже лежат
4:13в открытом доступе. Любой энтузиаст
4:16может запустить их на домашнем ПК.
4:18Клетка открыта. Ah.