Мир за неделю: искусственный интеллект на службе человечества

В то время как новая программа Microsoft AI Bounty ищет уязвимости в интерфейсе Bing на базе ИИ, британские ученые предлагают поставить искусственный интеллект на службу экономике. Атака на объект КИИ привела к аварии на острове, а очередной школьный округ в США пострадал из-за утечки данных.

Microsoft ищет уязвимости в Bing

12 октября компания Microsoft объявила старт программы Microsoft AI Bounty. Корпорация готова заплатить от двух до пятнадцати тысяч долларов за выявление значительных уязвимостей в новом инновационном интерфейсе Bing на базе искусственного интеллекта, которые оказывают прямое и очевидное влияние на безопасность клиентов.

Перечень приоритетных направлений поиска приведет на сайте Microsoft. К ним относятся уязвимости, которые можно использовать для манипулирования ответом модели на отдельные запросы вывода, но не изменять саму модель, в том числе манипулируемые ответы, которые обходят ограничения, наложенные на модель; уязвимости, которые можно использовать для манипулирования моделью на этапе обучения; уязвимостей, которые можно использовать для получения информации о данных обучения, архитектуре и весах модели или входных данных времени вывода, а также уязвимостей раскрытия информации, связанных с выводом информации с использованием самой модели или иными способами.

Также вознаграждение можно получить за нахождение уязвимостей в чат-боте, в том числе за нахождение способов обхода установленных ограничений, системы безопасности, связанной с сохранением истории чата, разглашение конфиденциальной информации, манипуляций с чатом и изменений настроек чата без соответствующих прав.

Заявки, выявляющие уязвимости в онлайн-сервисах, связанных с Bing, будут рассматриваться в рамках программы вознаграждений M365. Все отправленные материалы проверяются на предмет соответствия критериям получения награды, говорится на сайте компании.

В 2023 году Microsoft уже выплатила 13,8 млн долларов 345 экспертам из разных стран. Всего было обнаружено 1180 багов.

Школьный округ пострадал из-за утечки данных

Школьный округ округа Кларк (CCSD) в штате Невада (США) объявил, что недавний инцидент в области кибербезопасности позволил неизвестным получить несанкционированный доступ к персональным данным учащихся, родителей и сотрудников. О взломе стало известно 5 октября. Инцидент затронул почтовый сервер.

Обнаружив инцидент, администрация CCSD немедленно привлекла правоохранительные органы и группу судебно-медицинских экспертов для расследования инцидента и обеспечения работы округа в безопасной и исправной среде, говорится в сообщении округа. Начавшееся расследование указывает на то, что хакер получил доступ к «ограниченной персональной информации». Никаких подробностей инцидента и скомпрометированных данных не раскрывается, сообщает FOX5.

Атака на объект КИИ привела к отключению газоснабжения острова

Газовая компания Джерси восстановила подачу газа в объекты жилой недвижимости и на предприятия крупнейшего острова архипелага Нормандских островов — Джерси, сообщает BBC.

Около 4500 потребителей оставались газа с 7 по 13 октября после того, как сбой в программном обеспечении на заводе Island Energy Group (IE) в Сент-Хелиере привел к остановке производства. Компания заявила, что поставки «коммерческим, приоритетным и уязвимым клиентам» будут приоритетными в ходе восстановительных работ.

Во вторник, 10 октября, генеральный директор IE Джо Кокс заявил, что завод компании в Ла-Коллетте был остановлен после того, как из-за неизвестного кода в ПО произошел сбой в электроснабжении основной и резервной систем. Компания Island Energy принесла извинения за отключение электроэнергии.

Спустя шесть дней после аварии власти Джерси призвали местных жителей с осторожностью включать газ у себя дома, следовать разосланным инструкциям и, при необходимости, вызвать представителей поставщика для восстановления газоснабжения. Власти отметили, что на восстановление полноценной подачи газа может уйти несколько дней.

В результате отключения электроэнергии и остановки подачи газа была нарушена работа гостиниц и предприятий общественного питания, прекращена подача горячей воды в дома. В одном из отделений больницы Овердейл произошел «незначительный, но управляемый» сбой.

Правительство Джерси заявляет, что продолжает оценку влияния сбоя подачи электроэнергии и газа на другие государственные объекты.

ИИ поможет раскрыть экономический потенциал страны

Британское правительство должно предложить налоговые льготы компаниям, разрабатывающим продукты и услуги на базе искусственного интеллекта или применяющим ИИ в своей деятельности, чтобы «раскрыть потенциал Великобритании для повышения производительности», говорится в отчете исследователей Кембриджского университета. Исследование на тему ИИ подготовлено сотрудниками Кембриджского центра технологий и демократии Миндеру, Института государственной политики Беннетта и ai@cam: — флагманской инициативы университета по ИИ.

Исследователи утверждают, что в настоящее время в стране не хватает вычислительных мощностей и капитала, необходимых для быстрого создания генеративных моделей машинного обучения, чтобы конкурировать с американскими компаниями Google, Microsoft или Open AI. При этом исследователи призывают власти Великобритании сосредоточиться на использовании новых систем ИИ для реальных приложений, таких как разработка новых диагностических продуктов и решение проблемы нехватки ИТ-специалистов. Фактическое внедрение новых технологий ИИ может дать серьезный толчок британской экономике.

Однако ученые предупреждают, что без нового законодательства, обеспечивающего в Великобритании надежное правовое и этическое регулирование искусственного интеллекта, все планы могут сорваться. Британская промышленность и общественность не настолько доверяют новым платформам ИИ, чтобы вкладывать в них средства и время.

Наряду с новыми законами об ИИ, в отчете предлагается принять ряд налоговых льгот, чтобы увеличить приток капитала в ИИ-стартапы, а также налоговые льготы для всех предприятий, использующих генеративный искусственный интеллект в своей деятельности.