Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Продли жизнь правильно
В РГНКЦ Пироговского университета Минздрава России занимаются разработкой технологий, которые могут значительно увеличить продолжительность жизни.

По мнению директора центра, профессора, члена-корреспондента РАН Ольги Ткачевой, для продления активного периода жизни важен здоровый образ жизни, но для радикального увеличения продолжительности жизни до 150 лет необходимы прорывные исследования в области генной инженерии, регенеративной медицины и других направлениях биомедицины. Ольга Ткачева отметила, что максимальная документально подтверждённая продолжительность жизни человека сегодня составляет 122 года.

Людей, перешагнувших 110-летний рубеж, в мире всего несколько сотен. Для продления качественного долголетия важно не только вести здоровый образ жизни, но и подходить к этому системно.

«Какая-то отдельная привычка, пусть даже самая полезная, на фоне остальных негативных факторов не сработает, — объяснила Ольга Ткачева. — Молодость вашего организма складывается из того, насколько долго сосуды, мышцы, обмен веществ, иммунная система и мозг сохраняют свои резервы».

Главный совет от гериатра — быть физически активным. Согласно современным рекомендациям, организму необходимо не менее 150 минут умеренной физической активности в неделю, а больше — ещё лучше.

Но чтобы всё это работало, нужно превратить полезные привычки в источник удовольствия. «Нужно полюбить физическую активность так, чтобы ощущалась потребность в регулярных занятиях, — продолжает Ольга Ткачева.

— Ведь здоровый образ жизни, укрепляющий тело и дух, возможен лишь при условии, что он приносит удовлетворение и радость». Важен и рацион: питание должно быть богато овощами, рыбой и цельными продуктами.

Сбалансированное питание снижает риск серьёзных сердечно-сосудистых событий примерно на 30%. «Переход от нездорового питания к рекомендованному здоровому рациону связан с прибавкой до 8,6–8,9 года ожидаемой продолжительности жизни», — подчеркнула Ольга Ткачева.

Не менее важны, по её словам, сон, отказ от курения, умеренность в алкоголе, управление стрессом и социальные связи. Оптимальная продолжительность сна в исследованиях чаще всего находится около семи часов: и дефицит, и избыток сна связаны с ростом смертности.

Ещё одна рекомендация от профессора для замедления старения организма — регулярно проводить медицинские чек-апы. Здесь ключевую роль играет стабильность важнейших жизненных показателей, а именно артериального давления, уровня глюкозы и холестерина.

А позитивное влияние оказывает семейное положение: семейные люди, как правило, чувствуют себя лучше и живут дольше.

Московский комсомолец

Майтаке поддерживают иммунитет
Учёные пришли к выводу, что регулярное употребление грибов майтаке может сокращать продолжительность некоторых симптомов простуды и поддерживать противовирусную работу иммунной системы.

Исследование опубликовано в журнале Food & Function (F&F). В эксперименте участвовали 166 здоровых взрослых.

Они ежедневно получали хлеб с одним из двух штаммов майтаке либо плацебо. Молодые участники придерживались такого рациона 11 недель, люди среднего и старшего возраста — 18 недель.

Наиболее заметный эффект показал штамм Y10M. У его потребителей было меньше дней с температурой и насморком в обеих возрастных группах, а у молодых участников также реже сохранялась боль в горле.

При этом общее число случаев инфекций верхних дыхательных путей существенно не отличалось от группы плацебо. Кроме того, у людей среднего и старшего возраста майтаке Y10M усиливал работу нескольких звеньев врождённого иммунитета, участвующих в ранней защите от вирусов.

Исследователи связывают эффект в том числе с содержащимися в грибах β-глюканами. Авторы отмечают, что разные штаммы майтаке действовали неодинаково.

Поэтому речь идёт не о любом продукте с этим грибом, а о конкретном варианте, который в исследовании показал наиболее выраженное влияние на симптомы и иммунный ответ.

Лента ру

Активируют аутофагию при глаукоме
В экспериментальных моделях глаукомы учёным из Университета Миссури удалось защитить зрение благодаря усилению естественного механизма «очистки» клеток.

Результаты исследования опубликованы в журнале Molecular Neurodegeneration (MN). Глаукома характеризуется постепенной гибелью ганглиозных клеток сетчатки, передающих зрительную информацию в мозг.

Исследователи обнаружили, что при этом заболевании нарушается аутофагия — процесс, позволяющий клеткам избавляться от повреждённых компонентов, включая митохондрии. Их накопление увеличивает клеточный стресс и ускоряет разрушение нервной ткани.

Для восстановления этого механизма учёные использовали экспериментальный препарат Torin 2, активирующий аутофагию. В двух моделях глаукомы лечение помогло сохранить значительно больше ганглиозных клеток сетчатки и улучшить их функцию по сравнению с отсутствием терапии.

Авторы подчёркивают, что Torin 2 пока не одобрен для применения у людей. Тем не менее результаты исследования показывают, что восстановление естественной системы «очистки» клеток может стать новым направлением в лечении глаукомы.

Лента ру

Продукты усиливают воспаление кишечника
Учёные из Университета Северной Каролины выяснили, что шпинат, миндаль, батат и другие продукты с высоким содержанием оксалатов могут способствовать усилению воспаления кишечника у людей с болезнью Крона и язвенным колитом.

Результаты исследования опубликованы в журнале Cellular and Molecular Gastroenterology and Hepatology (CMGH). В ходе работы исследователи изучили образцы тканей и кала пациентов с воспалительными заболеваниями кишечника, а также провели эксперименты на мышах и клеточных культурах.

Выяснилось, что у больных значительно снижена активность белков, которые отвечают за выведение оксалатов — природных соединений, содержащихся во многих растительных продуктах. Из-за этого оксалаты накапливаются в кишечнике и усиливают воспалительную реакцию.

Это подтвердили опыты на животных. Мыши с колитом, получавшие рацион с повышенным содержанием оксалатов, на 60 процентов реже выживали, а заболевание у них протекало тяжелее.

Кроме того, исследователи обнаружили, что некоторые нарушения выведения оксалатов могут быть связаны с более агрессивным течением болезни Крона. Авторы подчёркивают, что результаты не означают, что пациентам с воспалительными заболеваниями кишечника следует полностью отказаться от шпината, орехов или других растительных продуктов.

Проблема, по их мнению, связана не только с количеством оксалатов в пище, но и с особенностями их переработки организмом конкретного человека.

Лента ру

Другие новости