Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Зелёный чай снижает риск смертности
Учёные, которые проанализировали данные более 42 тысяч жителей Северного Вьетнама, пришли к выводу, что регулярное употребление зелёного чая может быть связано со снижением риска смерти от любых причин.

Результаты исследования опубликованы в журнале Nutrients. В работе использовались данные крупного проспективного исследования Hanoi Prospective Cohort Study.

Участников старше 10 лет наблюдали с 2007 по 2019 год, их рацион оценивали с помощью анкет питания. За медианный период наблюдения в 11 лет исследователи зарегистрировали 2494 смерти.

Анализ показал, что между употреблением зелёного чая и риском смерти есть обратная связь: чем выше потребление напитка, тем ниже общий риск. Особенно заметной эта связь была у мужчин.

Защитный эффект наблюдался в разных подгруппах: у молодых и пожилых участников, курящих и некурящих, а также у людей с диабетом 2-го типа и без него. Авторы подчёркивают, что исследование показывает связь, а не доказывает прямое влияние зелёного чая на продолжительность жизни.

Однако результаты дополняют данные о возможной пользе биологически активных веществ, которые содержатся в зелёном чае.

Лента ру

Нейросеть
Китай внедряет инновации в медицину
С точки зрения микробиологии, молекулярной биологии, генетики и клеточной биологии работы по замене органов сегодня вполне возможны, утверждает учёный.

Китай занимает лидирующие позиции в области медицинских технологий, где проводятся разнообразные исследования. В качестве примера учёный Киселёв привёл работу учёных Колледжа искусственного интеллекта Нанькайского университета в КНР.

Они разработали технологию полного клонирования свиней для выращивания в них органов с помощью искусственного интеллекта, без участия человека. Робот выполняет все действия по переносу, оплодотворению, пересадке биоматериала.

«Подобная технология в отсутствии человека, искусственный интеллект, который работает 24 часа 7 суток в неделю, решает серьёзные биомедицинские проблемы, — те самые тысячи органов, которые нужны людям для трансплантации», — говорит биолог.

Московский комсомолец

Изучи влияние таурина
Таурин — это аминокислота, которая в значительных объёмах присутствует в организме человека.

Она может играть существенную роль в поддержании здоровья в процессе старения, как утверждают авторы обзора, опубликованного в журнале Food & Function (F&F). Учёные изучили данные экспериментальных и клинических исследований, посвящённых влиянию таурина на обмен веществ, воспалительные процессы и возрастные изменения.

В результате выяснилось, что это соединение участвует в работе митохондрий — клеточных «электростанций», помогает противостоять окислительному стрессу, регулирует уровень кальция в клетках и влияет на жировой обмен. Также таурин может снижать активность воспалительных процессов, которые считаются одним из основных факторов старения организма.

Исследователи подчёркивают, что обычного синтеза таурина и его поступления с пищей обычно достаточно для поддержания базового здоровья. Однако клинические испытания демонстрируют, что дополнительный приём от 1 до 6 граммов в сутки может улучшать метаболическую устойчивость организма и поддерживать работу митохондрий без выраженных побочных эффектов.

По мнению учёных, таурин может стать одним из перспективных компонентов персонализированного питания, направленного на профилактику возрастных и метаболических заболеваний. Ранее было установлено, что препараты для снижения холестерина уменьшают риск возрастной слабости у пожилых людей.

Лента ру

Нейросеть
Учёные нашли способ замедлить старение у мышей
В Автономном университете Барселоны учёные обнаружили метод, позволяющий замедлить возрастные изменения у мышей.

В статье, опубликованной в журнале Molecular Therapy (MT), говорится, что одна инъекция генной терапии помогла животным дольше сохранять здоровье и активность в преклонном возрасте. Терапия стимулировала мышцы вырабатывать белок FGF21, который играет роль в регуляции обмена веществ.

После лечения у мышей улучшились чувствительность к инсулину, контроль уровня сахара в крови и энергетический обмен. Средняя продолжительность жизни животных увеличилась более чем на 20%.

Положительный эффект был заметен в работе нескольких органов. У обработанных мышей лучше функционировали сердце, печень и почки, реже возникали признаки воспаления и возрастные повреждения тканей.

Также удалось предотвратить накопление некоторых белков, связанных со старением организма. Особенно заметными были изменения в качестве жизни мышей.

Пожилые животные сохраняли силу, выносливость и координацию движений, а их память и способность к обучению были близки к показателям молодых особей. Авторы работы считают, что результаты демонстрируют потенциал такого подхода для продления периода здоровой жизни.

Однако эффективность метода для людей ещё предстоит проверить в клинических исследованиях.

Лента ру

Другие новости