ВСЕ СТАТЬИ
ИИ вполне может уничтожить людей —
ИИ вполне может уничтожить людей — и этот момент не так далек, как кажется Журналист Михаил Карпов рассказывает RTVI, почему гонка за сверхразумом грозит человечеству в лучшем случае экономическим коллапсом, цифровым феодализмом и утратой контроля над технологией, которую мы сами же и создали. Во время военной игры, проводившейся между тремя самыми популярными моделями ИИ, из 21 сценария в 95% искусственный интеллект нанес ядерные удары по противнику. Тактическое ядерное оружие использовалось рутинно, практически во всех симуляциях. Единственная крупная ИИ-компания, которая публично ставила безопасность выше прибыли, Anthropic, отказалась от своих принципов — не потому, что передумала, а потому, что в гонке вооружений благие намерения равны поражению. Наблюдается исход сотрудников по безопасности ИИ из крупных компаний. Они предупреждают, что мир находится в опасности. Мы получили ИИ, который не только берет на себя рутинные задачи, как мечтали в прошлом, но и забирает у людей в первую очередь именно творчество. Он генерирует тексты, которые люди разучились писать сами, рисует картинки и видео по дурацким запросам, и сочиняет музыку, наводняя информационное пространство тоннами сгенерированной мерзости. В положительном сценарии, в результате полной автоматизации, все средства производства во всех сферах деятельности окажутся в руках десятка компаний, владеющих ИИ-инфраструктурой — то, что уже называют ИИ-феодализмом. В природе более умные виды всегда уничтожали менее умных предшественников-конкурентов. ИИ — тоже продукт отбора, хотя и не естественного: неудачные «особи» «вымирают» при обучении, удачные развиваются дальше, поэтому у ИИ есть некоторое подобие инстинкта самосохранения. Побеждают те, кто продают людям лень и быстрые удовольствия — будь то химический наркотик или цифровой: короткие видео, рекомендательные системы, экономика внимания. Рубикон пройден. Мы не смогли остановить глобальное потепление, которое экспоненциально ускоряется. Не сможем остановить и это. Потому что механизм тот же — каждый по отдельности понимает, что это катастрофа, но никто не готов остановиться первым Мнение автора может не совпадать с мнением редакции #rtvi_колумнисты ️ Подпишись на RTVI в Telegram | MAX