Узда для ИИ
Часто говорят, что искусственный интеллект (ИИ) — это хайп. Если даже и так, то пройдет он очень нескоро. ИИ уже стремительно «прорастает» в яхтенную индустрию: им пользуются и судовладельцы, и верфи. За примерами далеко ходить не нужно. Взять хотя бы комплекс машинного зрения Sentry от SEA.AI с автоматическим распознаванием объектов на воде или разработанную стартапом Cetasol систему iHelm, которая собирает данные от маршевых двигателей, чтобы моделировать их работу и в реальном времени советовать капитану, как сэкономить топливо. На крупных яхтах ИИ помогает следить за безопасностью цифровой инфраструктуры и прогнозирует неисправности оборудования.
Сами того не замечая, мы начали доверять ИИ «по умолчанию». И если цена его ошибки на офисной задаче, как правило, невелика, то когда речь идет о безопасности, уже хочется каких-то гарантий. Именно для этого в Европе только что приняли закон об искусственном интеллекте (EU AI Act). Он стал первой в своем роде расширенной законодательной базой для ИИ. Работая над его проектом, в ЕС стремились начать регулировать ИИ как продукт. Использующие его системы будут проверять на безопасность и наличие рисков перед допуском на европейский рынок, как это происходит, например, с автомобилями.
В законе системы с ИИ разделили на несколько групп в зависимости от степени риска для здоровья, безопасности и основных прав. Системы с неприемлемым риском (правительственный социальный рейтинг, нецелевой скрейпинг и подобные вещи) запрещены; продукты с минимальным риском или без оного (разного рода ассистенты, модели общего назначения) почти никак не регулируются. Наконец, системы с высоким риском (автоматизированная обработка резюме для составления рейтинга кандидатов, компоненты медицинского оборудования, элементы облачного контроля пожарных сигнализаций и пр.) должны соответствовать ряду требований.