Угроза ИИ.
Страница 8
И нам станет лучше. Лучше. Мягче. Спокойней. Меньше хаоса. Меньше тревоги.
Зачем мучить людей, если можно ублажать? Зачем концлагерь, если можно идеальный сервис?
Мы представляем порабощение как цепи. А оно придет как комфорт. Забота. Мягкий голос: «Все сделают за вас». И сладкая мысль: «Фух, можно расслабиться».
Когда система знает всех вшей вашей души, ей не нужно тащить вас силой. Она их почешет. Аккуратно. Нежно. Так, чтобы душа не взбунтовалась. Потому что ее вши довольны.
Самый надежный ошейник – тот, который мы сами надеваем на шею.
Все, что мы знаем о большом мире, мы знаем через экран. А за ним будет царить ИИ. И у нас не будет ни единого шанса осознать поражение.
Мы проиграем не потому, что нас победят. А потому что не известят: бой уже был. И это был именно бой.
Никакого боя. Технические работы, апдейт и новое пользовательское соглашение. Спасибо, наслаждайтесь удобным интерфейсом.
Без пыли, суеты и пиротехники. Просто эргономичный апдейт. И довольный юзер.
Залу понадобилась пара секунд, чтобы очухаться.
– Эй, бармен, всем по «синкопе». Жахнем за эргономичный конец света! Помянем человечество. Заведение угощает. Не жмись – окупится. Когда я с этим шоу покончу, все тут нажрутся в хлам.
Раздались нервные смешки. Кто-то потянулся к стакану. Кто-то уставился в свой – будто тот не посуда, а план эвакуации.
– Давайте, друзья. Не чокаясь.
«Синкопы» прокатились между столами.
– Кхм, ну раз все так плохо, почему же никто не жмет на тормоза?
– Вот! В точку. Потому что тормоз – штука классная. Ответственная. Особенно когда жмет кто-то другой.
А сам нажал – и проиграл.
Механика этой мясорубки банальна. Притормозишь – останешься на обочине. А другой не тормозит. Другой едет дальше. Быстрее торгует. Быстрее шпионит. Быстрее воюет.
И вот ответственный – уже лузер.
Корпорация скажет: «Мы бы рады, но конкурент выпустит раньше. Клиенты уйдут. Инвесторы порвут. Рынок не простит».
Рынок – штука капризная. Совесть – как у таракана. Аппетит – как у бегемота.
Государство скажет: «Мы бы рады, но враг не подождет». И будет по-своему право. Потому что там тоже понимают: если отстанем, нас сожрут.
Кто первым получит преимущество – в экономике, войне, науке, кибербезопасности – тот получит рычаг. А кто не получит – будет красиво рассуждать о гуманизме из музейного отдела павших цивилизаций.
Военные тем более не скажут: «Давайте притормозим». Они так не устроены. Раз эффективно – внедрят.
А политики? Институты? Регуляторы?
Пока регулятор формирует повестку, модель уже обновилась. Пока парламент дозревает до слушаний, рынок уже встроил ее в продукт.
Наши институты созданы для мира, где перемены идут шагом. А ИИ несется. И несется скачками.
Вот почему никто не тормозит. Все видят обрыв. Но каждый боится, что соперник обгонит – и первым построит мост на ту сторону. Или первым долетит до дна и объявит это инновацией.
И это, милые мои, не заговор. Хуже. Это маховик стимулов.
Мир идет в разнос без злой воли. Каждый боится тормозить. Все.
Я замолчал. На этот раз надолго. Публика тоже притихла.