Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.


Учёные обнаружили противораковый эффект экстракта мальвы
Итальянские исследователи обнаружили, что экстракт цветков лесной мальвы (Malva sylvestris), растение, которое часто применяют в народной медицине, может подавлять рост и распространение клеток рака толстой кишки.

В ходе эксперимента было установлено, что этот растительный экстракт уменьшает способность опухолевых клеток к делению, движению и проникновению в окружающие ткани, при этом здоровые клетки практически не страдают. Результаты исследования опубликованы в журнале Nutrients.

Эксперименты проводились на двух линиях человеческих раковых клеток кишечника. Учёные выяснили, что компоненты экстракта мальвы проникают в клетки и даже накапливаются в ядре, влияя на работу генов.

При этом опухолевые клетки не умирали сразу, а переходили в «замедленное» состояние — теряли способность активно расти и распространяться, что особенно важно для предотвращения метастазов. Ключевым открытием стало то, что эффект экстракта связан не только с растительными антиоксидантами, но и с микроРНК растительного происхождения.

Одна из них, miR160b-5p, может подавлять работу гена CDK2 — важного регулятора клеточного цикла, который играет роль в развитии опухолей. Таким образом, растение воздействует на раковые клетки на генетическом уровне.

Авторы подчёркивают, что речь пока идёт о лабораторных экспериментах, а не о готовом лекарстве. Однако полученные результаты открывают новые перспективы: экстракты лекарственных растений и содержащиеся в них растительные микроРНК в будущем могут стать основой для более мягких и целенаправленных противоопухолевых подходов.


Учёные нашли способ сохранить костную ткань после удаления зуба
Специалисты Сеченовского университета провели исследования и установили, что для сохранения объёма костной ткани после удаления зуба целесообразно использовать остеопластические материалы животного происхождения в комбинации с коллагеновыми мембранами.

Этот метод значительно уменьшает потерю костной массы и способствует созданию более оптимальных условий для последующей имплантации. Об этом «Ленте.

ру» рассказали в пресс-службе университета. Проблема потери костной ткани после экстракции зуба является одной из основных в хирургической стоматологии.

В первые месяцы ширина альвеолярного гребня может сократиться на 30–50 процентов, что затрудняет установку имплантов и отрицательно сказывается как на функциональности, так и на эстетике лечения. В систематический обзор были включены исследования с участием пациентов в возрасте от 18 до 80 лет, в которых сравнивались различные материалы, применяемые в лунке сразу после удаления зуба.

Во всех работах применение остеопластических материалов позволило сократить костные потери по сравнению с естественным заживлением. Наилучшие результаты продемонстрировали ксеногенные материалы: они хорошо сохраняют форму и служат «каркасом» для формирования новой кости, а коллагеновые мембраны дополнительно защищают область вмешательства и поддерживают пространство для регенерации.

Авторы отмечают, что современные синтетические материалы на основе кальцийфосфатов в некоторых случаях показывают сопоставимую эффективность и могут стать альтернативой для пациентов, которые предпочитают решения без компонентов животного происхождения. Результаты исследования помогут врачам более точно выбирать тактику лечения и могут стать основой для обновления клинических рекомендаций в области хирургической стоматологии.

Ранее учёные установили связь между заболеваниями дёсен и повышенным риском инфаркта и инсульта.


Связь психических расстройств с риском инфаркта раскрыта
В ходе масштабного анализа данных свыше 22 миллионов человек исследователи из Университета Калгари обнаружили, что некоторые психические расстройства могут быть связаны с повышенным риском инфаркта и других острых сердечных состояний.

В исследовании, опубликованном в JAMA Psychiatry, учёные изучили десятки ранее опубликованных работ. Наиболее устойчивую связь учёные обнаружили для посттравматического стрессового расстройства (ПТСР) и нарушений сна.

У людей с ПТСР риск инфаркта оказался значительно выше, чем у тех, кто не сталкивался с этим расстройством. Повышенный риск также наблюдался при депрессии и тревожных расстройствах, хотя в этих случаях данные были менее однозначными.

Авторы исследования отмечают, что психические расстройства часто сочетаются с уже известными факторами риска сердечно-сосудистых заболеваний — повышенным давлением, диабетом, нарушениями обмена веществ. Кроме того, хронический стресс, воспаление и проблемы со сном могут дополнительно нагружать сердечно-сосудистую систему.

Исследователи подчёркивают, что речь идёт не о прямой причине, а о статистической связи. Тем не менее результаты указывают на важность комплексного подхода к здоровью, когда психическое состояние рассматривается не отдельно, а как часть общего сердечно-сосудистого риска.


Нейросеть
Манго помогает спортсменам в восстановлении мышц
В результате исследования, проведённого учёными и посвящённого влиянию манго на спортсменов, было обнаружено, что добавление в рацион игроков национальной сборной Таиланда по пляжному волейболу пюре манго связано с более благоприятными показателями воспаления и мышечного восстановления во время регулярных тренировок.

Работа опубликована в журнале Nutrients. В рамках пилотного эксперимента участники в течение четырёх недель ежедневно употребляли по 600 граммов мангового пюре.

В другой период они получали плацебо с сопоставимой калорийностью. Анализы крови показали, что на фоне употребления манго снижались уровни C-реактивного белка и интерлейкина-6 — маркеров системного воспаления, а также креатинкиназы, которая отражает степень мышечного повреждения после нагрузок.

Кроме того, у спортсменов менялись отдельные показатели иммунного ответа: возрастала доля CD4 T-клеток и соотношение CD4/CD8. Это может указывать на более устойчивое состояние иммунной системы в период интенсивных тренировок.

При этом масса тела, состав тела и общее потребление энергии оставались неизменными. Авторы исследования подчёркивают, что речь идёт не о «чудо-продукте», а о потенциально полезной пищевой стратегии.

Полученные данные демонстрируют связь между употреблением манго и восстановительными процессами, однако для практических рекомендаций требуются более масштабные исследования.


Новости по теме