Нейросеть

Специалисты оценили риски ИИ.

Специалисты корпорации Microsoft провели исследование, в котором оценили риски безопасности, связанные с использованием искусственного интеллекта (ИИ).

Результаты исследования были опубликованы на сервере препринтов arXiv. Учёные проанализировали более 100 инструментов генеративного ИИ и оценили связанные с ними риски.

Они пришли к выводу, что ИИ «никогда не будет полностью безопасным». Поэтому важно контролировать, на основе чего обучаются языковые модели (LLM), и предупреждать ошибки.

Специалисты отметили, что большие языковые модели (LLM) усиливают существующие риски безопасности и создают новые. Если обучать LLM на основе ошибочных или конфиденциальных данных, то модель будет распространять эту информацию среди пользователей.

Они также назвали потенциальный вред от ИИ труднооценимым. Чтобы повысить безопасность от использования ИИ, специалисты предложили контролировать каждый этап обучения LLM.

В качестве одного из выводов исследования они отметили, что человеческий фактор в процессе обучения ИИ всегда будет решающим. Также в работе с искусственным интеллектом необходимы предметная экспертиза, культурная компетентность и эмоциональный интеллект.

В начале января швейцарские учёные связали частое использование инструментов ИИ со снижением навыков критического мышления. Они предсказали, что в долгосрочной перспективе ИИ будет неизбежно влиять на снижение когнитивных функций в обществе.


Нейросеть
Эрик Шмидт предупреждает о рисках использования ИИ террористами.
Бывший руководитель корпорации Google Эрик Шмидт высказал мнение, что террористы могут начать использовать искусственный интеллект.

Об этом он рассказал в интервью BBC. Шмидт напомнил, что перед уходом с поста президента США Джо Байден ограничил экспорт микрочипов для многих стран.

Предприниматель считает этот шаг правильным, поскольку полупроводниковое оборудование вместе с инструментами искусственного интеллекта могут использовать террористы. «Эти технологии развиваются очень быстро, и террористы могут освоить их и использовать не по назначению, нанося реальный вред», — отметил Шмидт.

Его беспокоит сценарий Усамы бен Ладена, при котором террористы смогут взять под контроль какой-то аспект мирной жизни и устроить атаку. Бывший глава Google предложил властям США найти баланс между государственным надзором за развитием искусственного интеллекта и чрезмерным регулированием сектора.

Он подчеркнул, что государство должно следить за технологиями, которые разрабатывают частные компании: «Очень важно, чтобы правительства понимали, что мы делаем, и следили за нами». В мае Эрик Шмидт заявил, что мировые державы будут с оружием охранять свои инструменты искусственного интеллекта, чтобы они не достались потенциальному противнику.

По его прогнозу, и в США, и в Китае власти будут засекречивать новые технологии.


Нейросеть
Власти Германии начали антимонопольное разбирательство против Apple.
Власти Германии начали антимонопольное разбирательство в отношении корпорации Apple.

Рейтер сообщает, что немецкое антимонопольное управление обвиняет Apple в злоупотреблении положением на рынке. Специалисты регулятора считают, что компания затрудняет сбор информации о пользователях гаджетов Apple разработчиками приложений и сервисов.

IT-гигант якобы единолично собирает данные пользователей и зарабатывает на этом, увеличивая доход от своих цифровых сервисов. Издание PhoneArena объясняет, что речь идёт о функции App Tracking Transparency (ATT), которая появилась в 2021 году.

Она ограничивает приложения на iPhone, не позволяя им собирать избыточные данные о пользователях. В Apple считают, что ATT защищает потребителей от раскрытия конфиденциальных данных.

«ATT значительно затрудняет конкурирующим издателям приложений доступ к пользовательским данным, имеющим отношение к рекламе», — заметил руководитель Федерального управления по борьбе с картелями Андреас Мундт. Представитель истцов Томас Хеппнер, которые жаловались на ATT ещё с 2021 года, заявил, что Apple занимается «масштабным ограничением конкуренции в свою пользу».

Компании, признанные виновными в нарушении антимонопольных правил Германии, могут получить штраф в размере до десяти процентов от своего годового оборота. «Европа яростно раздаёт санкции, в то время как США и Китай развлекаются в сфере высоких технологий, придумывая инновации и разные штуки», — иронично отреагировали на ситуацию журналисты PhoneArena.

В начале февраля газета The Washington Post рассказала, что власти Великобритании могут принудить Apple раскрывать данные о своих пользователях. В результате корпорация может отключить шифрование на гаджетах своих пользователей в регионе.


Нейросеть
Apple запустит ИИ-сервис в Китае.
Издание South China Morning Post (SCMP) сообщает, что американская корпорация Apple запустит свой сервис искусственного интеллекта (ИИ) в Китае с помощью Alibaba. Председатель Alibaba Group Джо Цай официально заявил о начале сотрудничества с Apple в сфере ИИ на Всемирном правительственном саммите в Дубае.

Он подчеркнул, что Apple была очень избирательна и выбрала именно Alibaba для ведения бизнеса. Журналисты SCMP отмечают, что фактически Apple разрешили запустить свою нейросеть в Китае, где каждый инструмент ИИ должен пройти сертификацию местных властей.

Поэтому компания Тима Кука не могла просто запустить Apple Intelligence сразу, как это было сделано в других регионах мира. Сервис Apple будет работать на основе модели Qwen.

Джо Цай не назвал точных сроков запуска Apple Intelligence в Китае. На фоне этих новостей акции Alibaba выросли на 2,6 процента в ходе торгов на Гонконгской фондовой бирже.

Ранее источники The Information сообщили о том, что Apple запустит сервисы ИИ в Китае вместе с Alibaba. В середине февраля авторитетный инсайдер Мин-Чи Ко заявил, что Apple выпустит человекоподобного робота не раньше 2028 года.


Нейросеть
В Иркутске начали собирать Як-130М.
На авиазаводе в Иркутске приступили к сборке первых трёх учебно-тренировочных самолётов Як-130М.

Об этом РИА Новости рассказали в ПАО «Яковлев». Як-130 создавался как передовой самолёт для обучения военных лётчиков.

Сейчас на экспорт он позиционируется как лёгкий штурмовик. По словам представителя агентства, сроки первого полёта будут определены после завершения изготовления первого опытного образца и наземных испытаний самолёта.


Новости по теме