Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Выявлены сильные и слабые стороны топ-менеджеров
В онлайн-опросе приняли участие свыше 400 топ-менеджеров из крупных и средних российских компаний.

Им предложили оценить управленческие компетенции своих коллег и спрогнозировать востребованность этих компетенций в ближайшие три года. Исследование позволило определить пять наиболее развитых управленческих качеств среди руководителей высшего звена, владельцев, основателей предприятий, руководителей функциональных подразделений и проектов.

Среди них: * самодисциплина (её отметили 65 % опрошенных); * развитие сети профессиональных контактов (59 %); * контроль за качеством исполнения задач (56 %); * ежедневная расстановка приоритетов (54 %); * коммуникации (52 %). Также были выявлены слабые стороны топ-менеджеров.

Основной проблемой стало внедрение и использование новых технологий. Так, 74 % респондентов указали на недостаточное привлечение в работу ИИ-агентов, 71 % — на низкий процент создания рабочих процессов с учётом возможностей ИИ, 68 % — на недостаточное использование искусственного интеллекта в управлении организациями и предприятиями, 66 % — на слишком малую долю использования в работе больших языковых моделей (LLM).

Кроме того, среди «слабых» сторон современных менеджеров оказалось умение выявлять индивидуальную мотивацию сотрудников (его отметили 67 % опрошенных). При этом 62 % участников опроса выразили мнение, что в ближайшие три года спрос на вышеуказанные навыки возрастёт.

Московский комсомолец

Готовься к квантовому взлому
Эксперты с Запада предупреждают о «квантовом апокалипсисе» — глобальном кризисе кибербезопасности, который может наступить раньше ожидаемого срока.

Доктор юридических наук, заслуженный юрист России, заведующий кафедрой международного права РГСУ профессор Юрий Жданов объясняет, что это может быть не просто всемирный компьютерный сбой, а массовый взлом. По словам экспертов CNN, приближается «День Q» — дата, когда квантовые вычисления смогут быстро взламывать ключи шифрования, обеспечивающие безопасность большинства интернет-коммуникаций.

Google предупредил, что квантовые компьютеры могут взломать некоторые зашифрованные системы к 2029 году. Это значительно сокращает время для защиты данных.

Профессор Микеле Моска, соучредитель и генеральный директор компании evolutionQ, утверждает, что «День Q» — это момент, когда квантовый компьютер получит достаточно ресурсов и стабильности, чтобы взломать обычную криптографию. Моска и его соавторы основывали свой прогноз на мнениях 26 экспертов.

В отчёте «Хронология квантовых угроз» предполагалось, что создание полномасштабного, криптографически значимого квантового компьютера «вполне возможно» в течение следующих 10 лет и «вероятно» в течение следующих 15 лет. Компания Google заявила, что планирует завершить переход к 2029 году «с помощью постквантовой криптографии», чтобы обеспечить безопасность квантовой эры.

В блоге компании говорится, что этот срок отражает достижения в области квантовых вычислений. Сотрудники Google и учёные из Калифорнийского университета в Беркли, Стэнфордского университета и некоммерческой организации Ethereum Foundation подготовили статью, в которой утверждают, что будущие квантовые компьютеры могут быть способны взламывать криптографию второго поколения, защищающую криптовалюты и другие системы.

Криптография RSA, названная в честь своих создателей Рона Ривеста, Ади Шамира и Леонарда Адлемана, использует математическую особенность. В отличие от стандартных компьютеров, квантовые компьютеры используют квантовые биты — «кубиты», которые могут одновременно представлять и 0, 1 или и то, и другое.

Это свойство позволяет квантовым машинам хранить и обрабатывать более сложную информацию. Кэтрин Маллиган, приглашённый научный сотрудник Института науки и технологий безопасности Имперского колледжа Лондона, назвала предупреждения Google «предупреждающим выстрелом», особенно для криптовалютного сообщества.

Она отметила, что правительства, включая Соединённые Штаты и Великобританию, опубликовали стандарты для постквантовой криптографии. Эксперты считают, что квантовая криптография позволяет двум сторонам, желающим обменяться конфиденциальными данными, установить надёжный ключ шифрования, секретность которого обеспечивается законами физики, а не вычислительной сложностью математической задачи.

Однако этот метод требует специального оборудования, что может сделать его более дорогим и сложным в применении.

Московский комсомолец

Яблоки поддерживают здоровье
Учёные проанализировали данные 38 клинических исследований и пришли к выводу, что регулярное употребление яблок может положительно влиять на уровень сахара в крови, состояние сосудов и кишечную микрофлору.

Работа опубликована в журнале Food amp; Function (Famp;F). В исследованиях рассматривались как свежие яблоки, так и продукты на их основе.

В краткосрочных экспериментах учёные чаще всего изучали влияние яблок на уровень глюкозы после еды и антиоксидантную защиту организма. Более длительные исследования были направлены на изучение показателей сердечно-сосудистого здоровья, воспаления, окислительного стресса и состава кишечной микробиоты.

Анализ показал, что яблоки могут улучшать контроль уровня сахара в крови, повышать антиоксидантную активность и поддерживать нормальную функцию сосудистого эндотелия — внутреннего слоя сосудов, который отвечает за их эластичность и работу. При длительном употреблении также наблюдались признаки улучшения состава кишечной микрофлоры.

Исследователи подчёркивают, что для окончательных выводов данных пока недостаточно. Однако учёные считают, что яблоки остаются важной частью здорового рациона благодаря содержанию клетчатки, витаминов и биологически активных веществ.

Их потенциальная польза для обмена веществ заслуживает дальнейшего изучения.

Лента ру

Активируй NOX4 для молодости мышц
Специалисты из Университета Монаша выяснили, что белок NOX4, который содержится в скелетных мышцах, может играть важную роль в поддержании здоровья и физической активности у пожилых людей.

Результаты их исследования были опубликованы на сервере препринтов bioRxiv. Учёные обнаружили, что с возрастом уровень NOX4 естественным образом снижается, что совпадает с уменьшением физической активности.

Эксперименты показали, что низкие уровни этого белка связаны с потерей мышечной массы, слабостью и признаками возрастной хрупкости организма. В то же время восстановление уровня NOX4 сопровождалось улучшением обмена веществ, увеличением силы и массы мышц.

Авторы работы утверждают, что NOX4 запускает в мышцах защитные процессы. Этот белок способствует выработке сигнальных молекул, которые помогают клеткам эффективнее производить энергию, лучше адаптироваться к нагрузкам и снижать накопление повреждений.

Именно поэтому регулярные физические упражнения оказывают выраженный омолаживающий эффект на организм. Сейчас учёные ищут способы активировать этот механизм без интенсивных тренировок.

Одним из перспективных направлений они считают вещества, которые содержатся в брокколи, капусте и брюссельской капусте. Если удастся воспроизвести действие NOX4 с помощью лекарств или питания, это может помочь людям дольше сохранять мышечную силу, подвижность и независимость в пожилом возрасте.

Ранее учёные выяснили, что дефицит витамина D повышает риск развития варикозного расширения вен.

Лента ру