Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Это подтверждают исследователи, опубликовавшие свои выводы в журнале JACC: Advances. Они использовали данные Framingham Heart Study — одного из самых продолжительных медицинских наблюдений, в котором приняли участие более 3 200 человек на протяжении примерно 25 лет.

Учёные анализировали индекс LE8 — показатель здоровья сердца, который учитывает восемь факторов: физическую активность, питание, сон, курение, индекс массы тела, уровень сахара, холестерина и артериальное давление. Исследование показало, что чем выше суммарный показатель здоровья на протяжении жизни, тем меньше риск заболеваний.

У участников с лучшими показателями риск сердечно-сосудистых болезней был на 73 процента ниже по сравнению с теми, у кого здоровье сердца было хуже. При этом важно не только текущее состояние здоровья, но и «накопленный эффект» — длительное воздействие факторов риска.

Даже если показатели со временем улучшались, более высокий итоговый уровень здоровья обеспечивал дополнительную защиту. По словам исследователей, результаты подчёркивают, что образ жизни в ранние годы имеет ключевое значение для будущего состояния организма.

Регулярные физические упражнения, сбалансированное питание, отказ от курения и нормальный сон могут значительно снизить риски серьёзных заболеваний в будущем. Ранее учёные выяснили, что чувство одиночества увеличивает вероятность развития заболеваний сердечных клапанов.

В эксперименте участвовали 45 взрослых людей в возрасте от 22 до 70 лет, которые не страдали алкоголизмом. Учёные сравнили их привычки в употреблении спиртных напитков с результатами МРТ и показателями кровотока в мозге.

Выяснилось, что даже при небольшом количестве выпитого — до 60 напитков в месяц для мужчин и до 30 для женщин — наблюдалось ухудшение кровоснабжения мозга и уменьшение толщины коры. Наиболее заметная связь была обнаружена между употреблением алкоголя и кровотоком: чем больше человек пил, тем хуже становилась циркуляция крови в мозге.

Это имеет большое значение, поскольку кровообращение обеспечивает доставку кислорода и питательных веществ, а также влияет на состояние нейронов. Постепенно такие изменения могут накапливаться и приводить к повреждению тканей мозга.

Кроме того, исследователи выяснили, что эффект от употребления алкоголя усиливается с возрастом. Сочетание даже умеренного употребления алкоголя и старения может привести к более выраженному снижению показателей работы мозга.

Одним из возможных механизмов учёные называют окислительный стресс — биологическое «изнашивание» клеток.

В эксперименте на мышах учёные изучали, как сочетание курения матери и нездорового питания во взрослом возрасте влияет на обмен веществ. Выяснилось, что при одновременном воздействии этих факторов состояние здоровья ухудшалось: повышались уровень жира и холестерина в организме.

По отдельности каждый из факторов оказывал менее заметное влияние. Исследование показало, что воздействие дыма ещё до рождения может менять работу печени и жировой ткани.

Вследствие этого организм становится более восприимчивым к избытку жиров и сахара в рационе, что повышает риск ожирения, жировой болезни печени и других метаболических нарушений. Учёные подчёркивают, что людям, чьи матери курили во время беременности, следует более тщательно следить за питанием и регулярно проверять показатели здоровья, включая уровень сахара, давление и липиды крови.

Ранее было установлено, что микропластик, накапливающийся в организме, способствует развитию болезней печени.

В исследовании участвовали 59 человек в возрасте около 70 лет, почти у половины из них было ожирение. Специалисты сравнили состав тела и показатели дыхательной функции и обнаружили, что у людей с ожирением значительно снижена общая ёмкость лёгких — то есть количество воздуха, которое они могут вдохнуть.

У таких участников были хуже и другие показатели: объём выдыхаемого воздуха, скорость выдоха и остаточный объём воздуха в лёгких. Это говорит о том, что дыхательная система работает менее эффективно.

Это может проявляться одышкой и снижением выносливости даже при обычной физической нагрузке. При этом влияние ожирения на лёгкие оказалось одинаковым у мужчин и женщин, несмотря на различия в распределении жира.

Исследователи считают, что дело может быть в избыточном количестве жира в области живота и грудной клетки, которое механически ограничивает работу лёгких. Авторы подчёркивают: при оценке дыхательных жалоб у пожилых пациентов врачам важно учитывать не только возрастные изменения, но и наличие ожирения.

Это поможет точнее диагностировать причины одышки и подобрать эффективное лечение.