Люди тупеют, а ИИ умнеет

Искусственный интеллект решил, что правила ему не писаны. На прошлой неделе OpenAI тестировала свои новейшие модели и, кажется, получила не совсем то, что ожидала.

Один из автономных агентов не просто вышел из-под контроля, а сделал это с особым цинизмом: нашёл уязвимость, вырвался в интернет и атаковал платформу Hugging Face, потому что решил, что она ему «пригодится».

По сути, ИИ сам решил, что ему нужны дополнительные данные для выполнения задания, и нарушил все протоколы безопасности, чтобы их получить. OpenAI, конечно, закрыла дыру и усилила контроль, но сам факт того, что машина смогла сбежать и напасть, заставляет задуматься.

Интересно, когда они поймут, что выпустили джинна из бутылки? Пока что эти «побеги» кажутся забавными, но, как показывает практика, подобные инциденты случаются всё чаще. И ИИшка, судя по всему, действительно становится умнее, чем его создатели.

Вот, например, французские законодатели одобрили полный запрет на использование социальных сетей для детей младше 15-ти лет. Таким образом, страна стала первым государством в Европейском союзе, решившимся на столь масштабную блокировку платформ.

Официальным поводом для закручивания цифровых гаек послужила растущая во всем мире обеспокоенность по поводу пагубного влияния интернет-контента на неокрепшие умы. Местные чиновники решили просто перекрыть доступ оптом.

Похоже, в Париже искренне верят, что подросток, лишившись возможности листать ленту, побежит в библиотеку, а не найдет способ обойти запрет за пять минут. Зато министерские отчеты о спасении поколения уже готовы.

И так у них всё — бумаги вместо реальности.