Нейросеть

Исследование: крупные чат-боты стали чаще ошибаться

Исследование, опубликованное в журнале Nature, показало, что крупные чат-боты на основе искусственного интеллекта (ИИ) стали чаще ошибаться при ответе на сложные вопросы.

Автор исследования, Хосе Эрнандес-Оралло из Валенсийского исследовательского института искусственного интеллекта в Испании, проверил работу трёх крупнейших чат-ботов, использующих передовые ИИ-модели. Учёный обнаружил, что вместо того чтобы признать свою неосведомлённость, чат-боты стали совершать больше ошибок.

По его мнению, это может быть связано с тем, что создатели моделей заложили в них паттерн «отвечать любой ценой». Специалисты изучили три семейства больших языковых моделей (LLM): GPT от OpenAI, BLOOM и модель, созданную академической группой BigScience.

В ходе тестирования они задавали сложные вопросы и математические задачи. Выяснилось, что модели стали умнее, но также начали давать неправильные ответы вместо того, чтобы сказать, что не знают ответа.

Команда исследователей обнаружила, что все модели иногда давали неправильные ответы даже на простые вопросы. Эрнандес-Оралло заявил, что люди не могут контролировать эти модели.

Учёные считают, что создателям моделей необходимо разработать механизм, который позволит чат-ботам пропускать вопросы, на которые они не знают ответа, чтобы избежать введения пользователей в заблуждение. Это не первый случай, когда исследователи обнаруживают проблемы с безопасностью и надёжностью ИИ.

В сентябре фирма AMCI Testing выяснила, что новая версия автопилота Tesla склонна к рискованным действиям, проехав на красный сигнал светофора и чуть не устроив ДТП.

Лента ру

Улучши сигнал Wi-Fi
Эксперт в области IT, технический директор компании «Стахановец» Сергей Щербаков рассказал «Ленте.ру», что для улучшения сигнала Wi-Fi необходимо правильно разместить роутер.

Его следует поставить в центре квартиры или офиса, на возвышении и в месте, где нет преград — не в тумбочке, не за телевизором, не в углу. Помехи в виде бетонных стен, микроволновок, холодильников и радиотелефонов ослабляют сигнал.

Чтобы улучшить качество связи, достаточно отодвинуть роутер от бытовой техники на метр-полтора. Также Сергей Щербаков порекомендовал перезагружать роутер раз в неделю.

Это помогает поддерживать стабильную работу сети, как перезагрузка телефона. Эксперт посоветовал выбирать нужный диапазон частот.

Если роутер раздаёт две сети — 2,4 ГГц и 5 ГГц, то вблизи роутера лучше использовать 5 ГГц, так как она быстрее. Для дальних комнат больше подойдёт сеть 2,4 ГГц, так как она лучше пробивает стены.

Кроме того, Сергей Щербаков рекомендовал приобрести репитер (усилитель сигнала), если в квартире или офисе есть «мёртвые зоны». Устройство вставляется в розетку на полпути между роутером и проблемной зоной и решает проблему за небольшую сумму.

Ранее эксперт по информационной безопасности компании «Стахановец» Алексей Миронов назвал признаки взлома гаджетов. Например, если смартфон, который раньше держал зарядку целый день, теперь садится за два-три часа при отсутствии активных игр или видео, это может быть признаком фоновой активности.

Лента ру

Отключите функцию WPS
Танвир Сингх, редактор портала XDA, назвал функцию WPS одной из наиболее опасных настроек домашнего интернет-роутера.

По его словам, WPS (Wi-Fi Protected Setup) — это устаревшая функция, которая была разработана около двадцати лет назад для упрощения процесса сопряжения между роутером и новым устройством. В 2007 году эта концепция казалась логичной и безопасной, однако сейчас хакеры научились взламывать WPS и получать доступ к домашним сетям.

Сингх подчеркнул, что WPS позволяет создавать восьмизначный пин-код, который передаёт пароль Wi-Fi на смартфон, компьютер или другое устройство. Он отметил, что к 2026 году эта технология полностью устарела, и большинство гаджетов уже не поддерживают её.

Специалист посоветовал пользователям отключить функцию WPS на своих роутерах. Он также рекомендовал найти инструкцию к маршрутизатору, чтобы отключить устаревшую функцию, и изменить пароль от роутера.

Во многих моделях роутеров WPS включена по умолчанию, поэтому Сингх призвал обратить на это внимание.

Лента ру

Узнавайте о взломе устройства вовремя
Алексей Миронов, эксперт по информационной безопасности компании «Стахановец», рассказал «Ленте.ру», что владельцы устройств часто узнают о взломе не из специальных уведомлений, а по изменениям в поведении устройства.

Например, смартфон, который раньше держал зарядку целый день, начинает разряжаться за два-три часа при отсутствии активных игр или видео. Это может быть признаком фоновой активности, когда кто-то втайне от вас передаёт личные файлы или переписку.

Другим тревожным сигналом является индикатор микрофона или включение камеры, когда вы не совершаете звонки и не записываете видео. Такое поведение характерно для шпионских программ, которые ведут скрытую запись.

На компьютере стоит насторожиться, если устройство самопроизвольно выходит из спящего режима, вентиляторы охлаждения запускаются без видимой нагрузки или в браузере обнаруживаются расширения, которые вы не устанавливали. Артём Геллер, эксперт в области IT, ранее объяснял, что главная техническая защита от скачиваний детьми мошеннических приложений — настройки самого телефона.

На всех популярных операционных системах, включая Android и iOS, можно запретить любые покупки в магазине приложений под родительским паролем. При обнаружении признаков взлома не стоит просто перезагружать технику.

Правильные действия — немедленно включить авиарежим на смартфоне или полностью отключить компьютер от питания и сети, после чего с другого надёжного устройства сменить пароли на всех ключевых сервисах — от почты до интернет-банка, — посоветовал Миронов.

Лента ру

Защити домашнюю сеть от хакеров
Часто люди думают, что если кто-то подключится к их домашней сети, то это просто снизит скорость интернета, но на самом деле такой «гость» может стать лазейкой для кибератак, как сообщил «Ленте.ру» Алексей Миронов, эксперт по информационной безопасности компании «Стахановец».

Злоумышленник, используя чужой роутер, может подменить настоящий сайт банка его копией или попытаться получить доступ к умным устройствам владельца сети. Чтобы защитить себя, достаточно выполнить несколько простых действий через веб-интерфейс роутера.

В параметрах безопасности нужно выбрать протокол шифрования WPA2 или WPA3, так как старые стандарты уже не обеспечивают надёжной защиты. Миронов подчеркнул, что для пароля не подойдут простые слова или последовательности вроде «qwerty», нужен длинный и сложный пароль, включающий строчные и заглавные буквы, цифры и специальные символы.

Отключение видимости сети также станет дополнительным препятствием для злоумышленников. После этой настройки Wi-Fi перестанет отображаться в списке доступных соединений у окружающих, и подключиться к нему без знания имени сети будет сложно, добавил Миронов.

Ранее Артём Геллер, эксперт в области IT, объяснил, что основной технической защитой от установки детьми мошеннических приложений является настройка самого телефона. На всех популярных операционных системах, включая Android и iOS, можно запретить любые покупки в магазине приложений под родительским паролем.

Лента ру