Мир за неделю: искусственный интеллект на службе человечества

В то время как новая программа Microsoft AI Bounty ищет уязвимости в интерфейсе Bing на базе ИИ, британские ученые предлагают поставить искусственный интеллект на службу экономике. Атака на объект КИИ привела к аварии на острове, а очередной школьный округ в США пострадал из-за утечки данных.

 

Microsoft ищет уязвимости в Bing

12 октября компания Microsoft объявила старт программы Microsoft AI Bounty. Корпорация готова заплатить от двух до пятнадцати тысяч долларов за выявление значительных уязвимостей в новом инновационном интерфейсе Bing на базе искусственного интеллекта, которые оказывают прямое и очевидное влияние на безопасность клиентов.

Перечень приоритетных направлений поиска приведет на сайте Microsoft. К ним относятся уязвимости, которые можно использовать для манипулирования ответом модели на отдельные запросы вывода, но не изменять саму модель, в том числе манипулируемые ответы, которые обходят ограничения, наложенные на модель; уязвимости, которые можно использовать для манипулирования моделью на этапе обучения; уязвимостей, которые можно использовать для получения информации о данных обучения, архитектуре и весах модели или входных данных времени вывода, а также уязвимостей раскрытия информации, связанных с выводом информации с использованием самой модели или иными способами.

Также вознаграждение можно получить за нахождение уязвимостей в чат-боте, в том числе за нахождение способов обхода установленных ограничений, системы безопасности, связанной с сохранением истории чата, разглашение конфиденциальной информации, манипуляций с чатом и изменений настроек чата без соответствующих прав.

Заявки, выявляющие уязвимости в онлайн-сервисах, связанных с Bing, будут рассматриваться в рамках программы вознаграждений M365. Все отправленные материалы проверяются на предмет соответствия критериям получения награды, говорится на сайте компании.

В 2023 году Microsoft уже выплатила 13,8 млн долларов 345 экспертам из разных стран. Всего было обнаружено 1180 багов.

 

Школьный округ пострадал из-за утечки данных

Школьный округ округа Кларк (CCSD) в штате Невада (США) объявил, что недавний инцидент в области кибербезопасности позволил неизвестным получить несанкционированный доступ к персональным данным учащихся, родителей и сотрудников. О взломе стало известно 5 октября. Инцидент затронул почтовый сервер.

Обнаружив инцидент, администрация CCSD немедленно привлекла правоохранительные органы и группу судебно-медицинских экспертов для расследования инцидента и обеспечения работы округа в безопасной и исправной среде, говорится в сообщении округа. Начавшееся расследование указывает на то, что хакер получил доступ к «ограниченной персональной информации». Никаких подробностей инцидента и скомпрометированных данных не раскрывается, сообщает FOX5.

 

Атака на объект КИИ привела к отключению газоснабжения острова

Газовая компания Джерси восстановила подачу газа в объекты жилой недвижимости и на предприятия крупнейшего острова архипелага Нормандских островов — Джерси, сообщает BBC.

Около 4500 потребителей оставались газа с 7 по 13 октября после того, как сбой в программном обеспечении на заводе Island Energy Group (IE) в Сент-Хелиере привел к остановке производства. Компания заявила, что поставки «коммерческим, приоритетным и уязвимым клиентам» будут приоритетными в ходе восстановительных работ.

Во вторник, 10 октября, генеральный директор IE Джо Кокс заявил, что завод компании в Ла-Коллетте был остановлен после того, как из-за неизвестного кода в ПО произошел сбой в электроснабжении основной и резервной систем. Компания Island Energy принесла извинения за отключение электроэнергии.

Спустя шесть дней после аварии власти Джерси призвали местных жителей с осторожностью включать газ у себя дома, следовать разосланным инструкциям и, при необходимости, вызвать представителей поставщика для восстановления газоснабжения. Власти отметили, что на восстановление полноценной подачи газа может уйти несколько дней.

В результате отключения электроэнергии и остановки подачи газа была нарушена работа гостиниц и предприятий общественного питания, прекращена подача горячей воды в дома. В одном из отделений больницы Овердейл произошел «незначительный, но управляемый» сбой.

Правительство Джерси заявляет, что продолжает оценку влияния сбоя подачи электроэнергии и газа на другие государственные объекты.

 

ИИ поможет раскрыть экономический потенциал страны

Британское правительство должно предложить налоговые льготы компаниям, разрабатывающим продукты и услуги на базе искусственного интеллекта или применяющим ИИ в своей деятельности, чтобы «раскрыть потенциал Великобритании для повышения производительности», говорится в отчете исследователей Кембриджского университета. Исследование на тему ИИ подготовлено сотрудниками Кембриджского центра технологий и демократии Миндеру, Института государственной политики Беннетта и ai@cam: — флагманской инициативы университета по ИИ.

Исследователи утверждают, что в настоящее время в стране не хватает вычислительных мощностей и капитала, необходимых для быстрого создания генеративных моделей машинного обучения, чтобы конкурировать с американскими компаниями Google, Microsoft или Open AI. При этом исследователи призывают власти Великобритании сосредоточиться на использовании новых систем ИИ для реальных приложений, таких как разработка новых диагностических продуктов и решение проблемы нехватки ИТ-специалистов. Фактическое внедрение новых технологий ИИ может дать серьезный толчок британской экономике.

Однако ученые предупреждают, что без нового законодательства, обеспечивающего в Великобритании надежное правовое и этическое регулирование искусственного интеллекта, все планы могут сорваться. Британская промышленность и общественность не настолько доверяют новым платформам ИИ, чтобы вкладывать в них средства и время.

Наряду с новыми законами об ИИ, в отчете предлагается принять ряд налоговых льгот, чтобы увеличить приток капитала в ИИ-стартапы, а также налоговые льготы для всех предприятий, использующих генеративный искусственный интеллект в своей деятельности.

17 октября, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

29.11.2023
«Мы рассчитывали, что наши крупнейшие цифровые платформы успеют…»
29.11.2023
Софт для управления разработкой подорожал до 3 млн рублей
29.11.2023
Мошенники активно используют карусель инфоповодов и техник для обмана граждан
29.11.2023
Количество жертв кибермошенников в «Чёрную пятницу» увеличилось
28.11.2023
Хакеры провели почти 290 тысяч успешных атак на клиентов банков
28.11.2023
«Тинькофф» запретил сотрудникам работать из других стран. Но есть исключения
28.11.2023
300 млрд рублей к 2027 году. В России появится акселератор для вывода игр за рубеж
28.11.2023
До 2030 года Россия потратит 25 млрд рублей на развитие кибербеза
28.11.2023
Клиенты банков теперь смогут переводить средства за рубеж через СБП
28.11.2023
Чёрная пятница — чёрный декабрь. Solar AURA — о мошенничестве в период распродаж

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных