В Избранное
Axios: ИИ-компании прорабатывают сценарии катастроф с участием нейросетей
10 октября

Axios: ИИ-компании прорабатывают сценарии катастроф с участием нейросетей


Издание Axios сообщило, что крупнейшие ИИ-компании, такие как OpenAI и Anthropic, прорабатывают сценарии катастроф с участием нейросетей.

На фоне уже случавшихся инцидентов, когда ИИ-модели выбирались из тестовой среды, руководители компаний готовятся к более серьёзным ситуациям. Axios сообщает, что ИИ-корпорации ожидают, что нейросети могут провести масштабную кибератаку, которая заблокирует доступ к финансовым услугам, интернету или даже электроэнергии.

После этого, как сообщается, компании начнут обвинять друг друга в ответственности за происходящее. В связи с катастрофой американский конгресс постарается на законодательном уровне ограничить эффективность ИИ. Однако, как считают руководители компаний, эта инициатива вряд ли будет успешной из-за стремительного развития локальных ИИ-моделей и тесной интеграции нейросетей в глобальную экономику.

Стоит отметить, что проработка неудачных сценариев — рядовая практика для многих компаний. В Axios считают, что нынешний случай примечателен тем, что многие специалисты всерьёз призывают готовиться к катастрофе с участием ИИ. Каких именно экспертов имеет в виду издание, не уточняется.

Axios запросили комментарии у ИИ-компаний. В Anthropic на запрос не ответили, а OpenAI сообщила, что такие обсуждения проводятся, но не являются чем-то экстраординарным:

«OpenAI проводит учения по обеспечению готовности, в ходе которых команды обсуждают и прорабатывают различные возможные сценарии. Эти сценарии не рассматриваются как неизбежные, но призваны помочь нам подготовиться к различным обстоятельствам»

— комментарий OpenAI изданию Axios

Источник

Подписывайтесь на наши соц. сети и получайте больше новостей!

Комментарии

Старый, но не бог 19 октября
Хорошо, что в конце отделили сценарий учений от прогноза неизбежной катастрофы. Не хватает конкретики о целях проверки и о том, какие выводы из подобных учений меняют практику работы.

Содержание

В начало
Комментарии
🔥 Горячее

Как быстро заработать в GTA 6: полный гайд по экономике сюжетного режима

Фанаты недовольны GTA VI Ultimate Edition: бонусы растянуты по прогрессу и не заменяют GTA+

Аналитика: GTA VI уже разошлась тиражом 24,6 млн копий — с общей выручкой 2,36 млрд долларов

Случайные встречи в GTA 6: спарринг на $1000 и подстава с прыжками в реку

Tomb Raider: Legacy of Atlantis: механика «Фокус» и споры о духе классики

🔥 Горячее

GTA 6: подробный разбор графических режимов на PS5, PS5 Pro и Xbox Series X|S

В Star Wars: Galactic Racer появится разделенный экран

Xbox подтвердила, что Project Helix — консоль, которая может запускать игры с ПК


Сайт может использовать файлы cookie для работы, улучшения сервиса и показа персональных предложений. Подробнее об этом в Политике конфиденциальности.
Продолжая использовать сайт, Вы соглашаетесь с Условиями использования и Политикой cookie.
Закрыть
licnt20A2