Нейросеть

Исследование: крупные чат-боты стали чаще ошибаться

Исследование, опубликованное в журнале Nature, показало, что крупные чат-боты на основе искусственного интеллекта (ИИ) стали чаще ошибаться при ответе на сложные вопросы.

Автор исследования, Хосе Эрнандес-Оралло из Валенсийского исследовательского института искусственного интеллекта в Испании, проверил работу трёх крупнейших чат-ботов, использующих передовые ИИ-модели. Учёный обнаружил, что вместо того чтобы признать свою неосведомлённость, чат-боты стали совершать больше ошибок.

По его мнению, это может быть связано с тем, что создатели моделей заложили в них паттерн «отвечать любой ценой». Специалисты изучили три семейства больших языковых моделей (LLM): GPT от OpenAI, BLOOM и модель, созданную академической группой BigScience.

В ходе тестирования они задавали сложные вопросы и математические задачи. Выяснилось, что модели стали умнее, но также начали давать неправильные ответы вместо того, чтобы сказать, что не знают ответа.

Команда исследователей обнаружила, что все модели иногда давали неправильные ответы даже на простые вопросы. Эрнандес-Оралло заявил, что люди не могут контролировать эти модели.

Учёные считают, что создателям моделей необходимо разработать механизм, который позволит чат-ботам пропускать вопросы, на которые они не знают ответа, чтобы избежать введения пользователей в заблуждение. Это не первый случай, когда исследователи обнаруживают проблемы с безопасностью и надёжностью ИИ.

В сентябре фирма AMCI Testing выяснила, что новая версия автопилота Tesla склонна к рискованным действиям, проехав на красный сигнал светофора и чуть не устроив ДТП.


Нейросеть
Тим Кук назвал улучшение здоровья главной задачей Apple.
Глава Apple Тим Кук в интервью журналу Wired назвал улучшение здоровья и качества жизни пользователей основной задачей компании.

Он отметил, что, оглядываясь в прошлое, видит, что основным вкладом Apple в общество стало развитие здравоохранения. «Мы поставили себе цель начать с чего-то простого, а затем оказалось, что наши гаджеты могут улавливать сигналы сердца и измерять ЭКГ», — заявил руководитель корпорации.

Улучшение здоровья, по словам Кука, началось с выпуска умных часов Apple Watch, которые позволяли считать калории и шаги. Затем устройство научилось определять мерцательную аритмию, ЭКГ и фиксировать апноэ во сне.

Миллиардер признался, что часто получает сообщения от людей, жизнь которых спасли умные часы. Тим Кук также напомнил, что недавно наушники AirPods Pro были одобрены в США для использования в качестве слухового аппарата.

«Речь идёт не о конкуренции со слуховыми аппаратами на рынке, а о попытке убедить людей с потерей слуха использовать свои AirPods», — подчеркнул предприниматель. Ранее аналитики издания Telecoms Tech News заявили, что компания Apple продолжит терять долю на рынке смартфонов, если не решит проблемы с Китаем.

В частности, фирма не может запустить в регионе свой сервис искусственного интеллекта и в полную силу конкурировать с местными производителями.


Нейросеть
Tesla Cybertruck: выявлены проблемы.
Издание Gizmodo обратило внимание на проблему, которая может возникнуть у электрического пикапа Tesla Cybertruck во время снегопада. Журналисты медиа заметили ролик в TikTok владельца нового автомобиля Tesla Джо Фэя, который набрал за короткое время три миллиона просмотров.

В нём мужчина продемонстрировал, что пикап имеет конструктивный дефект головного света, который проявляется зимой. Передние фары установлены в виде тонкой полоски, расположенной в специальной нише.

Когда идёт снег, он заполняет пространство между бампером и фарами, мешая выделять транспорт на дороге и освещать путь. «Эти фары потрясающие.

Они очень яркие. Однако я обнаружил, что снег скапливается прямо перед ними», — заявил Фэй.

Он обратил внимание, что снег полностью забивает нишу с фарами, если машина стоит на парковке дольше, чем несколько часов. При этом в дороге снег не так сильно мешает освещению.

«Очевидно, что если машина просто стоит, снег будет скапливаться прямо здесь и закрывать фары. Это определённо проблема», — подытожил блогер.

По его словам, он не может поверить, что дизайнеры Tesla не подумали об этом во время проектирования Cybertruck.


Нейросеть
Apple обвинили в слежке.
Бывший маркетолог компании Apple Амар Бхакта подал иск в суд штата Калифорния (США) против этой компании.

Он обвинил Apple в вмешательстве в частную жизнь. Бхакта заявил, что во время работы в корпорации подвергался слежке и постоянному контролю со стороны работодателя.

Он подчеркнул, что руководители корпорации мешали ему выступать на тематических мероприятиях и заставили удалить информацию из LinkedIn о том, что он работает в Apple. По словам экс-специалиста компании, Apple крайне строго относится к своим сотрудникам и продолжает следить за ними даже вне рабочего времени.

«Для сотрудников Apple её экосистема — это не огороженный сад. Это тюремный двор», — заметил Бхакта.

В компании не приветствуют, когда работники заводят дополнительную учётную запись iCloud, чтобы скрыться от слежки со стороны работодателя. По словам истца, Apple якобы в курсе всей информации, которая хранится на устройствах сотрудников.

В ответ на подачу иска в компании заявили: «Каждый сотрудник имеет право обсуждать свою заработную плату, часы работы и условия труда, и это часть нашей политики делового поведения». Если Apple проиграет в суде, ей придётся заплатить штраф за каждое выявленное нарушение.

В середине мая корпорации Apple и Google разработали сервис, который позволит пользователям обнаруживать следящие за ними гаджеты. Новая функция появилась в обновлениях для iOS и Android.


Нейросеть
Volkswagen протестировал МКПП для электромобилей
Немецкий автогигант Volkswagen начал испытания аналога механической коробки передач для электромобилей.

Об этом сообщило издание Motor Authority. Руководитель отдела глобальных исследований и разработок Volkswagen Кай Грюниц заявил, что компания уже протестировала электрокар с МКПП.

Возможно, в некоторых моделях бренда эта трансмиссия появится как опция. Однако самому Грюницу не нравится вручную переключать передачи на электрокаре.

Топ-менеджер ценит электрические автомобили за бесшумность и плавность хода. Электрические машины не имеют традиционной трансмиссии, как автомобили с двигателем внутреннего сгорания.

Крутящий момент передаётся с электромотора на колёса с помощью системы прямого привода. Это подтвердил Кай Грюниц, отметив, что МКПП будет выполнять декоративные функции.

В Volkswagen также рассказали, что будущие электрические модели могут получить систему, имитирующую толчки и звуки двигателя при переключении передач. По словам Грюница, это произойдёт, если будет спрос со стороны клиентов.

Издание Motor Authority также сообщает, что МКПП для электромобилей уже запатентовали Toyota и General Motors. Ранее в конце ноября стало известно, что корпорация Xiaomi представит свой второй серийный электрокар в первой половине 2025 года.

Это будет кроссовер, который будет конкурировать с Tesla Model Y.


Новости по теме