Банки УкраиныНовости

В Anthropic прогнозируют появление ИИ-сотрудников уже в следующем году

Anthropic ожидает, что виртуальные сотрудники на базе искусственного интеллекта начнут путешествовать по корпоративным сетям в следующем году.

Об этом сообщил руководитель отдела безопасности компании Джейсон Клинтон в интервью Axios.

По его словам, управление этими идентификационными данными ИИ потребует от компаний переоценки их стратегий кибербезопасности, иначе они рискуют подвергнуть свои сети серьезным нарушениям безопасности.

Агенты обычно сосредотачиваются на конкретной, программируемой задаче. В сфере безопасности это означает, что автономные агенты реагируют на фишинговые оповещения и другие индикаторы угроз.

Виртуальные сотрудники продвинут эту автоматизацию на шаг дальше:

У них будет уровень автономии, который намного превышает тот, что имеют сегодняшние агенты.

Anthropic считает, что на нее возложены две обязанности — помогать решать проблемы безопасности, связанные с искусственным интеллектом.

Во-первых, это тщательное тестирование моделей Claude, чтобы убедиться, что они могут противостоять кибератакам, сказала Клинтон. Во-вторых, отслеживать проблемы безопасности и уменьшать возможности злоумышленников злоупотреблять Claude.

Сетевые администраторы уже пытаются отслеживать, какие аккаунты имеют доступ к разным системам, и отбиваться от злоумышленников, покупающих повторно использованные пароли аккаунтов сотрудников в темном интернете.

По словам Клинтона, во время выполнения задачи сотрудники с искусственным интеллектом могут взломать систему непрерывной интеграции компании, в которой новый код объединяется и тестируется перед развертыванием: и тем самым нарушить правила.

«В старом мире это наказывается. Но в новом мире, кто несет ответственность за агента, который работал пару недель и дошедшел до этого?» — сказал он.

Клинтон говорит, что безопасность виртуальных сотрудников — одна из самых больших сфер безопасности, в которую компании, занимающиеся разработкой ИИ, могут инвестировать в ближайшие несколько лет.

Он особенно заинтересован в решениях, обеспечивающих видимость того, что делает аккаунт ИИ-сотрудника в системе, а также в инструментах, создающих новую систему классификации учетных записей, которая лучше учитывает виртуальных сотрудников.

История снова повторяется: мир пошатнулся, а будущее строят те, кто не боится нестабильности. Капитал приумножается там, где другие видят только страх. Те, кто видит возможности в хаосе, становятся победителями. 24 мая Invest Talk Summit — конференция для тех, кто действует, когда другие колеблются.

Скидка на билеты 10% по промокоду: Finance

? Регистрируйся сейчас

Для Вас

• Банки Украины
• Обмен валюты
• Курсы Нацбанка
• Новости
• Вклады ф/л
• Потреб. кредиты

Авторизация