Исследование: крупные чат-боты стали чаще ошибаться

Автор исследования, Хосе Эрнандес-Оралло из Валенсийского исследовательского института искусственного интеллекта в Испании, проверил работу трёх крупнейших чат-ботов, использующих передовые ИИ-модели. Учёный обнаружил, что вместо того чтобы признать свою неосведомлённость, чат-боты стали совершать больше ошибок.

По его мнению, это может быть связано с тем, что создатели моделей заложили в них паттерн «отвечать любой ценой». Специалисты изучили три семейства больших языковых моделей (LLM): GPT от OpenAI, BLOOM и модель, созданную академической группой BigScience.

В ходе тестирования они задавали сложные вопросы и математические задачи. Выяснилось, что модели стали умнее, но также начали давать неправильные ответы вместо того, чтобы сказать, что не знают ответа.

Команда исследователей обнаружила, что все модели иногда давали неправильные ответы даже на простые вопросы. Эрнандес-Оралло заявил, что люди не могут контролировать эти модели.

Учёные считают, что создателям моделей необходимо разработать механизм, который позволит чат-ботам пропускать вопросы, на которые они не знают ответа, чтобы избежать введения пользователей в заблуждение. Это не первый случай, когда исследователи обнаруживают проблемы с безопасностью и надёжностью ИИ.

В сентябре фирма AMCI Testing выяснила, что новая версия автопилота Tesla склонна к рискованным действиям, проехав на красный сигнал светофора и чуть не устроив ДТП.

В сети распространился ролик, на котором показана эвакуация пострадавшего с переломом носа при помощи вертолёта. Во время полёта пациент находился на подвешенных носилках, которые вращались со скоростью около 200 оборотов в минуту.

Госкорпорация заявила, что такая эвакуация является некорректной и пациента нужно было поднять на борт. Ошибкой спасателей было отсутствие контроля подвесного оборудования на земле.

Заместитель генерального директора Объединённой двигателестроительной компании Юрий Шмотин сообщил, что в 2024 году компания изготовила 700 серийных двигателей ВК-2500, которыми оснащают вертолёты Ми-8 и Ка-52. В госкорпорации считают, что американские коллеги провели эвакуацию неправильно.

Они должны были поднять пациента на борт, а не использовать подвесные носилки.

Самолёт, используемый в качестве летающей лаборатории, пилотировал экипаж АО «Туполев». Были выполнены все необходимые проверки оборудования, и лётчики доложили, что полётное задание выполнено полностью.

Как сообщается в публикации, на Ту-214 началась программа лётных испытаний с новыми российскими комплектующими. Это первый полёт самолёта после импортозамещения.

В июне Казанский авиационный завод имени Горбунова завершил переоборудование цехов для увеличения производства пассажирских самолётов Ту-214. Госкорпорация «Ростех» отметила, что программа по полному импортозамещению на предприятии компании «Туполев» вышла на новый этап.

Разработчики спецификации Wi-Fi Alliance и производитель процессоров MediaTek предварительно ознакомили с новым стандартом 802.11bn, который также называют Wi-Fi 8.

Новый стандарт будет незначительно отличаться от текущего по скорости, но повысит стабильность соединения. Пропускная способность останется ограниченной 23 гигабитами в секунду, стандарт будет использовать три частотных диапазона: 2,4, 5 и 6 гигагерц.

Главным отличием Wi-Fi 8 от текущей спецификации специалисты считают повышение стабильности и оптимизацию. Технология Co-SR позволит использовать подключённые к сети устройства для передачи данных по Wi-Fi на большие расстояния, например, в пределах одного дома.

Стандарт также обеспечит стабильную скорость подключения даже при перемещении девайса. Журналисты медиа отмечают, что на разработку стандартов беспроводной связи уходит около шести лет.

Ожидается, что спецификация Wi-Fi 7 будет актуальной до 2028 года, когда в продажу должны поступить первые устройства с поддержкой Wi-Fi 8. В середине октября учёные Лондонского университета установили новый мировой рекорд в беспроводной передаче данных, достигнув скорости 938 гигабит в секунду.

Об этом сообщает издание ArsTechnica. Журналисты ссылаются на отчёт Управления по разрешению аномалий (AARO), созданного Пентагоном в 2022 году.

Из отчёта следует, что спутники Starlink корпорации SpaceX путают с НЛО и граждане всё чаще сообщают о них. AARO всё чаще сталкивается со случаями, связанными с оборудованием спутниковой группировки Starlink.

Примером такой ситуации может служить сообщение пилота гражданских авиалиний о белых мигающих огнях в небе. Это произошло примерно в то же время, когда SpaceX запустила очередную группу спутников.

Директор AARO Джон Кослоски объяснил, что после запуска спутники Starlink группируются, отражают больше солнечного света и становятся хорошо видимыми с Земли. Затем они поднимаются выше и исчезают из поля зрения.

Кослоски считает, что со временем запуск спутников интернет-проекта станет обыденностью, и люди начнут реже сообщать об НЛО. В отчёте AARO говорится, что за период с середины 2023 по середину 2024 года было зафиксировано 757 сообщений об НЛО.

В более чем половине инцидентов причина появления неопознанных объектов не была раскрыта. Чиновники считают, что эффективность AARO вырастет при большем финансировании проекта.

10 ноября пилоты рейса Москва — Сочи заметили в небе около 20 НЛО. Специалисты предполагают, что это могли быть спутники Starlink.