Нейросеть

Исследование: крупные чат-боты стали чаще ошибаться

Исследование, опубликованное в журнале Nature, показало, что крупные чат-боты на основе искусственного интеллекта (ИИ) стали чаще ошибаться при ответе на сложные вопросы.

Автор исследования, Хосе Эрнандес-Оралло из Валенсийского исследовательского института искусственного интеллекта в Испании, проверил работу трёх крупнейших чат-ботов, использующих передовые ИИ-модели. Учёный обнаружил, что вместо того чтобы признать свою неосведомлённость, чат-боты стали совершать больше ошибок.

По его мнению, это может быть связано с тем, что создатели моделей заложили в них паттерн «отвечать любой ценой». Специалисты изучили три семейства больших языковых моделей (LLM): GPT от OpenAI, BLOOM и модель, созданную академической группой BigScience.

В ходе тестирования они задавали сложные вопросы и математические задачи. Выяснилось, что модели стали умнее, но также начали давать неправильные ответы вместо того, чтобы сказать, что не знают ответа.

Команда исследователей обнаружила, что все модели иногда давали неправильные ответы даже на простые вопросы. Эрнандес-Оралло заявил, что люди не могут контролировать эти модели.

Учёные считают, что создателям моделей необходимо разработать механизм, который позволит чат-ботам пропускать вопросы, на которые они не знают ответа, чтобы избежать введения пользователей в заблуждение. Это не первый случай, когда исследователи обнаруживают проблемы с безопасностью и надёжностью ИИ.

В сентябре фирма AMCI Testing выяснила, что новая версия автопилота Tesla склонна к рискованным действиям, проехав на красный сигнал светофора и чуть не устроив ДТП.

Лента ру

Читай обозначения на зарядке
На зарядных адаптерах можно увидеть различные символы, которые информируют о безопасности и назначении устройства.

Об этом пишет издание BGR. Журналисты обратили внимание, что на каждом адаптере для компьютера, смартфона и других гаджетов есть такие знаки.

Специалисты портала разъяснили значение наиболее известных из них. Например, контур дома указывает на то, что зарядное устройство предназначено исключительно для использования в помещении.

Этот адаптер не подходит для эксплуатации в дождливую погоду, при повышенной влажности и в других уличных условиях. Два квадрата, один из которых находится внутри другого, означают двойную изоляцию.

Перечёркнутый мусорный контейнер предупреждает о том, что адаптер нельзя выбрасывать вместе с обычными бытовыми отходами — после использования его следует сдать на переработку. Маркировка RoHS свидетельствует об ограниченном содержании опасных веществ, таких как свинец, ртуть и кадмий.

Цифра внутри кольца из стрелок обозначает период, в течение которого устройством можно пользоваться безопасно с точки зрения экологии. На корпусе адаптеров также можно увидеть символы CE и UKCA, которые подтверждают соответствие устройства требованиям европейского и британского рынков соответственно.

Если зарядка сертифицирована для рынка Евразийского экономического союза, на корпусе будут символы EAC. В начале октября издание BGR сообщило, что владельцам ноутбуков не обязательно покупать оригинальное зарядное устройство взамен потерянного или сломанного.

При выборе аксессуара специалисты советуют учитывать мощность блока и характеристики кабеля.

Лента ру

ИИ угрожает человечеству
Бывший сотрудник компании Anthropic Джейкоб Коксон выразил опасения относительно угрозы вымирания человечества из-за развития искусственного интеллекта.

Он озвучил свои мысли на заседании городского совета Нью-Йорка. По его словам, прогресс в области технологий может привести к потере контроля над ИИ, что, в свою очередь, может стать причиной гибели человечества.

Коксон подчеркнул, что разработчики действуют безрассудно в контексте развития нейросетей, а компании, занимающиеся ИИ, стремятся создать суперинтеллект. Кроме того, технологические компании пока не обладают достаточными знаниями о том, как контролировать разрабатываемые системы ИИ.

Коксон также отметил, что ИИ способен взламывать сторонние сети, за что человек мог бы понести уголовную ответственность. «Мы не понимаем, что ими движет, почему они делают то, что делают», — сказал он.

Ранее Нейт Соарес, глава некоммерческой организации Machine Intelligence Research Institute и бывший инженер компаний Google и Microsoft, заявил, что вероятность вымирания человечества из-за развития ИИ может достигать минимум 95 процентов. Он подчеркнул, что никто не знает, что происходит внутри компьютеров после обработки огромных объёмов данных.

Лента ру

Выбирайте правильные принтеры
В долгосрочной перспективе более дешёвые принтеры обходятся дороже в обслуживании, чем модели премиум-класса.

Это отмечает издание MakeUseOf. Авторы портала советуют покупателям домашних принтеров избегать моделей со сменными картриджами.

Они поясняют: производители бюджетных устройств устанавливают привлекательную цену на само оборудование, однако затем получают прибыль на расходных материалах. В этом, как утверждают специалисты, кроется основная проблема недорогих принтеров.

В качестве альтернативы аппаратам с картриджами журналисты предлагают модели со встроенными ёмкостями для заливки краски. Да, сами бутылки с чернилами нельзя назвать дешёвыми, но они позволяют напечатать значительно больше страниц, что делает стоимость одного отпечатка ниже.

Кристин Персо из MakeUseOf рассказывает, что пользуется такими принтерами более десяти лет и за это время приобрела новые комплекты чернил всего около четырёх раз. Заметка подчёркивает: заправляемые модели поддерживают все основные функции домашних принтеров, включая цветную и двустороннюю печать, сканирование, копирование, подключение по Wi-Fi и отправку документов со смартфона.

Ранее журналисты How-To Geek отмечали, что самые дешёвые принтеры обычно имеют очень дорогие расходные материалы, что позволяет производителям доступных моделей получать прибыль.

Лента ру

Google уберёт модель Gemini Pro из бесплатного доступа
Начиная с 9 октября, модель искусственного интеллекта Gemini Pro больше не будет доступна бесплатно.

Об этом сообщили в справочном центре Google. В компании пояснили, что пользователи с подпиской AI Plus узнают о новых условиях через электронное письмо.

Тем, у кого нет подписки, предоставят доступ к модели Gemini Flash-Lite, подчеркнули в Google. Первого октября Google анонсировала новую модель искусственного интеллекта Gemini 4 Argon.

Она способна решать сложные многоэтапные задачи, например, в области разработки программного обеспечения, юриспруденции, финансов и кибербезопасности. В Google уже применяют Gemini 4 Argon для оптимизации внутренних процессов.

В частности, модель помогла эффективнее использовать память в дата-центрах компании, освободив сотни терабайт без необходимости приобретения дополнительного оборудования. Ранее стало известно, что поддержка операционной системы ChromeOS для компьютеров прекратится в 2034 году.

Лента ру