Специалисты оценили риски ИИ.

Результаты исследования были опубликованы на сервере препринтов arXiv. Учёные проанализировали более 100 инструментов генеративного ИИ и оценили связанные с ними риски.

Они пришли к выводу, что ИИ «никогда не будет полностью безопасным». Поэтому важно контролировать, на основе чего обучаются языковые модели (LLM), и предупреждать ошибки.

Специалисты отметили, что большие языковые модели (LLM) усиливают существующие риски безопасности и создают новые. Если обучать LLM на основе ошибочных или конфиденциальных данных, то модель будет распространять эту информацию среди пользователей.

Они также назвали потенциальный вред от ИИ труднооценимым. Чтобы повысить безопасность от использования ИИ, специалисты предложили контролировать каждый этап обучения LLM.

В качестве одного из выводов исследования они отметили, что человеческий фактор в процессе обучения ИИ всегда будет решающим. Также в работе с искусственным интеллектом необходимы предметная экспертиза, культурная компетентность и эмоциональный интеллект.

В начале января швейцарские учёные связали частое использование инструментов ИИ со снижением навыков критического мышления. Они предсказали, что в долгосрочной перспективе ИИ будет неизбежно влиять на снижение когнитивных функций в обществе.

Как сообщили в пресс-службе госкорпорации, машина преодолела более 2,3 тысячи километров по пересечённой местности при температурах до минус 45 градусов. В «Ростехе» подчеркнули, что вездеход успешно прошёл все испытания.

Всего в экспедиции участвовали 15 машин, включая ТМ-140. Снегоболотоход ТМ-140 производит Курганмашзавод холдинга «Высокоточные комплексы».

Машина способна преодолевать водные преграды и подъёмы крутизной до 35 градусов. Её грузоподъёмность — 4 тонны.

«Наш маршрут проходил в том числе в прибрежной зоне Чукотского и Восточно-Сибирского морей. Мы пересекали полноводные реки по льду — это очень опасно.

Наши снегоболотоходы прошли все испытания, легко преодолевали снежную целину, везли груз, буксировали застревавшую технику», — сказал водитель-испытатель Курганмашзавода Александр Леонтьев. В феврале стало известно, что холдинг «Высокоточные комплексы» поставил МЧС России первую в 2025 году партию снегоболотоходов ТМ-140.

Машины направили к месту службы в Республику Саха.

Исследование было опубликовано на сайте организации. Учёные проверили, насколько точно чат-боты на основе различных моделей искусственного интеллекта ищут информацию в интернете.

Для этого они выбрали 200 статей от 20 изданий и составили для каждого чат-бота задание указать исходную статью, издание и год публикации. В качестве подсказки искусственному интеллекту предложили точную цитату из каждого текста.

Оказалось, что в целом искусственный интеллект точно называл происхождение цитаты и давал ссылку на источник в 60 процентах случаев. Для сравнения, при ручном поиске найти источник по цитате можно было в 100 процентах случаев — статьи показывали в топ-3 выдачи Google.

Энтузиасты назвали результат работы искусственного интеллекта провальным. Обе версии Grok AI от X показали худшие результаты: так, Grok-3 Search совершил ошибки в 94 процентах обработанных запросов.

Copilot от Microsoft отказался обрабатывать 104 запроса из 200, а из оставшихся 96 лишь 16 были полностью верными. Также выяснилось, что платные версии чат-ботов ищут информацию лишь немного качественнее, чем их бесплатные версии.

В заключении учёные отметили, что их поразило «нежелание» чат-ботов цитировать источники. Так, искусственный интеллект либо не демонстрировал исходную статью, либо ошибочно ссылался на другую публикацию.

Так, модель DeepSeek неправильно приписала авторство материала в 115 из 200 случаев. Ранее в Microsoft заявили о разработке новых форматов рекламы, ориентированной на пользователей сервисов искусственного интеллекта.

Контекстная реклама нового типа должна появиться в ИИ-сервисе Copilot.

Издание Gizmodo обратило внимание на это заявление. В компании выразили «серьёзные сомнения» в продолжении работы.

Представители фирмы, которую называют крупнейшим производителем роботов-пылесосов в мире, сообщили о падении продаж на 44 % за последний квартал 2024 года. В iRobot предположили, что недавно выпущенная линейка недорогих роботов поможет немного исправить ситуацию, но компания может обанкротиться в течение ближайших 12 месяцев.

По словам журналистов издания, для многих людей iRobot — это синоним слова «робот-пылесос». Однако проблемы компании доказывают, что, во-первых, прорыва в производстве роботов за последние годы не произошло, а во-вторых, подобные устройства всё ещё не стали гаджетами, без которых невозможно жить.

«Роботы-пылесосы — это скорее прихоть, а не необходимость», — заметили авторы. Также в материале говорится, что iRobot раньше была первопроходцем на рынке автоматических пылесосов, но сейчас её теснят китайские производители — Xiaomi и Roborock.

Они готовы предложить те же функции, но за более низкую стоимость. Специалисты Gizmodo отметили, что последним шансом для iRobot может стать её приобретение компанией Amazon — ранее корпорация уже пыталась купить компанию.

Тем временем в США беспилотный суперкар Maserati MC20 Coupe разогнали до скорости 318 километров в час. Учёные из Миланского технического университета, ответственные за разработку машины, заметили, что смогут использовать собранные с беспилотника данные для повышения безопасности движения на дорогах.

Это стало известно благодаря публикации в издании Forbes. 3 марта в базе Ведомства по патентам и товарным знакам США (USPTO) появился патент на регистрацию торговых марок Telepathy и Telekinesis.

Журналисты медиа считают, что в компании Маска ясно дали понять, что будут развивать эти направления в своём бизнесе. По американским законам компания не может просто закрепить за собой любую торговую марку — она должна иметь «добросовестное намерение» на её использование.

Журналисты напомнили, что в разговоре с подкастером Лексом Фридманом в августе 2024 года Маск говорил, что определённое «телепатическое» устройство Neuralink поможет людям с параличом. Юрист по товарным знакам Джош Гербен предположил, что компании Маска придётся столкнуться с проблемами конфиденциальности, безопасности и этики, прежде чем подобный продукт появится в виде реального девайса.

Неизвестно, сможет ли один пользователь с «телепатическим» имплантом читать мысли другого и каким образом они будут передаваться между двумя имплантами. В январе стартап Neuralink, принадлежащий Илону Маску, показал, как чипированный пациент управляет рукой робота силой мысли.

В компании не стали раскрывать личность автора надписи, но намекнули, что это был один из трёх чипированных компанией людей.