Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Сладкие напитки влияют на когнитивные функции пожилых людей
Китайские исследователи, чья статья опубликована в журнале Frontiers in Nutrition, обнаружили связь между употреблением сладких напитков и более выраженными признаками когнитивного снижения у пожилых людей.

В эксперименте участвовали 485 человек старше 60 лет. Учёные изучали частоту потребления сладких напитков, таких как газировка, пакетированные соки, молочный чай и другие подслащённые напитки, а также анализировали эмоциональное состояние участников и их жалобы на ухудшение памяти и других когнитивных функций.

Выяснилось, что у пожилых людей, употребляющих сладкие напитки, чаще наблюдались признаки ухудшения памяти и мышления. Более того, негативные эмоции, такие как тревога, грусть и раздражительность, также были связаны с более сильными жалобами на когнитивные функции.

Авторы исследования предполагают, что питание и эмоциональное состояние могут одновременно влиять на ранние признаки когнитивного снижения. Однако это исследование не доказывает, что сладкие напитки ухудшают память.

Результаты лишь указывают на то, что питание и эмоциональное состояние могут совместно влиять на ранние субъективные признаки ухудшения когнитивных функций. Необходимы дальнейшие исследования в этой области.

Ранее учёные выяснили, что регулярное употребление чая может снижать риск развития гипертонии.

Лента ру

Выявляй молекулярные следы загрязнения
В журнале Nature Communications была опубликована работа, в которой исследователи пришли к выводу, что длительное воздействие загрязнённого воздуха оставляет в крови молекулярные следы.

Они могут появляться за несколько лет до развития рака лёгких. Учёные проанализировали образцы крови 1357 человек, у которых на момент исследования не было онкологических заболеваний.

Исследователи сопоставили уровень воздействия загрязнённого воздуха с изменениями в составе метаболитов — небольших молекул, отражающих обмен веществ. Оказалось, что у людей, подвергавшихся более высокому загрязнению, уже за годы до постановки диагноза наблюдались характерные нарушения.

Они связаны с хроническим воспалением, окислительным стрессом, процессами детоксикации и энергетическим обменом. Ранее эти изменения связывали с повышенным риском рака лёгких.

Авторы исследования подчёркивают, что полученные результаты особенно важны для людей, которые никогда не курили. Хотя курение остаётся главным фактором риска, значительная часть случаев рака лёгких развивается именно у некурящих.

Существующие программы скрининга в основном ориентированы на людей с большим стажем курения. Это означает, что многие пациенты с повышенным риском сегодня остаются вне поля зрения врачей.

Выявленные изменения пока нельзя использовать для диагностики заболевания. Однако в будущем они могут стать основой для создания анализа крови, который позволит выявлять людей с повышенным риском рака лёгких задолго до появления симптомов.

Лента ру

Нейросеть
Проверь ИИ в химии
Искусственный интеллект, например, AlphaFold 3, способен предсказывать пространственное строение белков.

Это позволяет моделировать новые лекарства с применением малых молекул. Однако российские учёные решили проверить точность таких предсказаний, особенно для молекул, которые могут изменять свой заряд в зависимости от кислотности среды.

«Чтобы создать новое лекарство, учёным нужно понять, как молекула будущего препарата свяжется с белком в организме», — рассказал «МК» один из авторов исследования, заведующий лабораторией структурного анализа и инжиниринга мембранных систем МФТИ Иван Гущин. Современные нейросети обещают решать эту задачу быстро — за несколько часов или даже минут.

Но есть проблема: искусственный интеллект не учитывает электрический заряд молекул. Многие вещества в живых организмах могут менять свой заряд в зависимости от среды: быть нейтральными, заряженными положительно или отрицательно.

От этого зависит, будет ли лекарство действовать на нужную мишень. Тесты показали, что даже для хорошо изученных простейших молекул нейросети дают несогласованные результаты.

Учёные протестировали четыре популярных модели: AlphaFold 3, Boltz-2, Chai-1 и Protenix-v1. В качестве тестовых объектов взяли метиламин — производное от аммиака, которое применяется в производстве лекарственных средств, включая антидепрессанты, анальгетики и противовоспалительные препараты, а также уксусную кислоту.

Оказалось, что нейросети анализируют эти молекулы, не учитывая их заряд. Особое беспокойство у авторов работы вызвала геометрия предсказанных структур.

Длины химических связей в молекулах оказались систематически короче реально возможных, вплоть до абсурдных значений. Например, одна из программ «сжимала» связь до 0,0075 нанометра, хотя даже по самым скромным меркам она должна быть минимум в десять раз длиннее.

Это говорит о том, что нейросеть не до конца понимает элементарную химию и может генерировать молекулы с физически невозможной геометрией. Ни один из четырёх популярных методов явно не выделился по качеству предсказаний, добавил Иван Гущин.

Полученные от таких моделей результаты следует интерпретировать с осторожностью и стремиться улучшать их алгоритмы. При обучении нейросетей нужно учитывать, что молекулы могут менять свой заряд.

Московский комсомолец

Нейросеть
Сочетай кардио с силовыми для здоровья
Учёные в издании Journal of Science and Medicine in Sport (JSMS) опубликовали результаты исследования, согласно которым сочетание силовых и аэробных тренировок более эффективно защищает от хронических заболеваний, чем только кардионагрузки, такие как бег или ходьба.

В течение девяти лет специалисты наблюдали за более чем 8 тысячами жителей Австралии в возрасте от 40 до 64 лет. Они анализировали риск развития хронических заболеваний у тех, кто регулярно выполнял только аэробные упражнения, только силовые тренировки или совмещал оба вида физической активности.

Выяснилось, что наиболее выраженный защитный эффект наблюдался у тех, кто сочетал кардио и силовые нагрузки. У участников, которые следовали рекомендациям по обоим видам активности, риск развития сахарного диабета 2 типа оказался ниже на 50 процентов, гипертонии — на 24 процента, а некоторых видов рака — на 23 процента по сравнению с людьми, которые практически не занимались спортом.

При этом учёные подчёркивают, что польза силовых упражнений выходит за рамки эффектов, которые обеспечивают одни лишь аэробные нагрузки. В рекомендациях по здоровому образу жизни обычно основной акцент делается на кардиотренировках, однако силовые упражнения не менее важны.

К ним относятся занятия с отягощениями, эспандерами или упражнения с собственным весом, например, приседания, отжимания и выпады.

Лента ру

Другие новости