Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Об этом стало известно из публикации в журнале JACC: Clinical Electrophysiology. Внезапное прекращение работы сердца происходит из-за сбоев в электрической активности органа и, как правило, приводит к летальному исходу.

Эксперты изучили геномы свыше трёх тысяч человек, переживших это состояние, и нашли 15 генов, повреждения в которых увеличивают вероятность опасного нарушения. Выяснилось, что у людей младше 29 лет опасные генетические варианты обнаруживались примерно у 10% пациентов.

С возрастом частота выявления таких мутаций снижалась: у людей старше 70 лет подобные изменения в генах находили лишь в 3% случаев. По мнению учёных, у пожилых пациентов остановка сердца чаще происходит не из-за генетической предрасположенности, а из-за закупорки сосудов и других сердечно-сосудистых заболеваний.

Авторы исследования считают, что людям, у которых в семье были случаи внезапной остановки сердца, необходимо проходить генетическое тестирование. Это может помочь выявить повышенный риск заранее и начать профилактику вовремя, например, изменить образ жизни или подобрать лечение.

Эти капли могут помочь людям, страдающим от синдрома сухого глаза, который характеризуется жжением, покраснением, ощущением песка в глазах и воспалением. Для борьбы с этим состоянием исследователи использовали механизм, аналогичный фотосинтезу растений.

Они извлекли из листьев шпината тилакоиды — структуры, участвующие в фотосинтезе, — и добавили их в специальные наночастицы для глазных капель. Когда система попадает в клетки глаза и подвергается воздействию обычного света, она начинает вырабатывать молекулу NADPH.

Эта молекула помогает клеткам защищаться от окислительного стресса и воспаления. Эксперименты показали, что уже через 30 минут после воздействия света уровень вредных окислителей заметно снижается.

В образцах слёз пациентов с синдромом сухого глаза содержание перекиси водорода уменьшилось на 95 процентов. Испытания на мышах показали, что новые капли оказались эффективнее препарата Restasis, который часто назначают при этом заболевании.

Исследователи считают, что в будущем подобный подход можно будет использовать и для лечения других воспалительных заболеваний, связанных с повреждением клеток активными формами кислорода.

В результате они пришли к выводу, что эта комбинация в сочетании с физической активностью может способствовать замедлению процессов старения. Результаты исследования опубликованы в журнале Frontiers in Nutrition.

С годами у человека уменьшается мышечная масса, снижается выносливость, ухудшаются когнитивные способности и ослабевает способность организма противостоять воспалению и окислительному стрессу. Авторы исследования подчёркивают, что коллаген поддерживает здоровье мышц, суставов и сосудов, витамин C участвует в синтезе коллагена и защищает клетки от повреждений, а витамин E снижает окислительный стресс и способствует поддержанию здоровья клеточных мембран.

Исследователи отмечают, что особенно заметный эффект достигается при сочетании этих веществ с регулярными физическими упражнениями. В некоторых работах у пожилых людей наблюдалось улучшение мышечной силы, состояния суставов, показателей выносливости и восстановление после нагрузок.

Также отдельные исследования указывали на положительное влияние на память, сосуды и иммунную систему. При этом специалисты подчёркивают, что не стоит рассматривать эти вещества как «таблетку от старения».

Большинство данных получено в результате краткосрочных исследований, а слишком высокие дозы антиоксидантов иногда даже снижали пользу от тренировок. Авторы считают, что наибольшую пользу может принести сочетание умеренной физической активности, сбалансированного питания и индивидуально подобранных добавок.

Ранее учёные выяснили, что добавки с витамином D и кальцием практически не помогают предотвращать переломы.

Результаты научной работы опубликованы в издании eClinicalMedicine. Гестационный диабет проявляется во время вынашивания ребёнка и характеризуется высоким уровнем сахара в крови.

Как правило, после родов это состояние проходит, но исследование показало, что его последствия могут ощущаться на протяжении многих лет. В рамках исследования авторы изучили данные более 1,15 миллиона женщин в Швеции, которые впервые стали матерями в период с 1987 по 2019 год.

Наблюдение за участницами продолжалось в среднем девять лет. Выяснилось, что риск развития диабета второго типа после гестационного диабета повышен даже у женщин, не имевших лишнего веса до беременности.

Исследователи отмечают, что гестационный диабет можно рассматривать как своего рода «стресс-тест» для организма, который помогает выявить скрытую предрасположенность к нарушениям обмена сахара. Учёные подчёркивают, что женщинам, столкнувшимся с таким диагнозом, необходим более тщательный контроль здоровья и регулярные медицинские осмотры даже спустя годы после родов.

Ранее стало известно, что нарушения сна во время беременности увеличивают риск гестационного диабета.