Искусственный интеллект: наш друг или враг?

[Strаtegium 234]

Искусственный интеллект: от страхов до реальности

Искусственный интеллект (AI) — это тема, которая в последнее время приобретает все большую популярность. Игровая индустрия также не остается в стороне, поскольку компании, такие как NVIDIA, активно интегрируют AI в свои решения, например, в игровых видеокартах. По данным аналитической компании MarketsandMarkets, на рынок искусственного интеллекта в игровой сфере в 2023 году было инвестировано более 20 миллиардов долларов, и ожидается, что эта цифра вырастет до 50 миллиардов долларов к 2027 году. Однако, как и в случае с любыми новыми технологиями, появляются опасения по поводу безопасности и потенциальных последствий развития AI.

 

 

 

 

 

Безопасность AI: вызовы и предложения

Эксперты, такие как Max Tegmark, профессор физики и исследователь AI в MIT, предлагают проводить тесты безопасности для оценки потенциальных рисков, связанных с AI. В своей работе Tegmark сравнивает эти тесты с преддверием испытаний атомной бомбы, где были проведены расчеты вероятности неконтролируемого взрыва. Аналогично, для AI необходимо рассчитать вероятность потери контроля над системой, что особенно актуально для концепции Artificial Super Intelligence (ASI). Тегмарк также утверждает: «Мы должны думать о том, как создавать технологии, которые будут служить людям, а не угрожать им».

 

В последнее время OpenAI и другие компании активно обсуждают вопросы безопасности при разработке AI. Например, OpenAI заявило, что может скорректировать свои стандарты безопасности, если конкуренты выпустят «высокорисковые» AI модели. Это включает в себя оценку рисков, связанных с возможностями моделей, которые могут маскировать свои способности или самореплицироваться. В 2022 году более 80% исследователей в области AI искали решение проблемы безопасности, согласно исследованию Stanford AI Index, что подчеркивает актуальность данной проблемы.

 

Реакция индустрии и правительств

В США Национальный институт стандартов и технологий (NIST) запустил новые инициативы по разработке стандартов для безопасного развития AI. В феврале 2023 года был опубликован проект, в котором указано, что компании, разрабатывающие AI, должны будут проводить тесты безопасности и предоставлять результаты властям. «Это не просто вопрос технологий, это вопрос доверия», — заявил Джонни Ван, главный ученый NIST.

 

В игровой индустрии интеграция AI призвана улучшить производительность и интерактивность игр, позволяя создавать более реалистичные игровые миры. Однако важно, чтобы развитие AI было направлено на обеспечение безопасности и прозрачности процессов. По данным Statista, более 60% геймеров имеют опасения по поводу злоупотребления AI в играх, что подчеркивает необходимость осторожного подхода к этим технологиям.

 

Интересные факты

• Макс Тегмарк не только исследует AI, но также является одним из основателей некоммерческой организации Future of Life Institute, которая занимается вопросами безопасности AI.
• В 2023 году было опубликовано открытое письмо о необходимости приостановки разработки мощных AI, подписанное такими видными деятелями, как Элон Маск и Стив Возняк.
• Согласно исследованию MIT Technology Review, 75% населения считает, что AI может угрожать обществу, если его не контролировать.