Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Продли молодость с помощью микробиома
Изменение состава кишечной микрофлоры потенциально может стать новым методом для замедления старения и увеличения продолжительности здоровой жизни.

В журнале Nature Aging были опубликованы результаты исследования, в котором учёные изучили данные нескольких групп взрослых людей. Они обнаружили, что с возрастом у мужчин и женщин значительно уменьшается количество бактерии Bifidobacterium pseudocatenulatum в кишечнике.

У людей с более высоким содержанием этой бактерии микробиом соответствовал более молодому биологическому возрасту, а некоторые показатели здоровья были лучше, чем у тех, у кого уровень бактерии был ниже. Исследователи выяснили, что эффект может быть связан с веществом 5-AVAB, которое вырабатывает эта бактерия.

Уровень 5-AVAB также снижается с возрастом. Эксперименты на пожилых мышах показали, что введение 5-AVAB улучшает память, координацию движений и некоторые поведенческие показатели, а также уменьшает хроническое воспаление в различных органах, включая сердце, печень, лёгкие, почки и мышцы.

Аналогичные эффекты наблюдались при введении самой бактерии. Авторы исследования считают, что в будущем восстановление количества полезной бактерии или уровня вырабатываемого ею вещества может стать подходом к замедлению возрастных изменений.

Однако основные доказательства такого эффекта пока получены только на животных моделях. Ранее было обнаружено, что гесперетин, содержащийся в цитрусовых фруктах, может замедлять старение печени.

Лента ру

Связывают тестостерон и риск фибрилляции предсердий учёные
Учёные в статье, опубликованной в Journal of the Endocrine Society (JES), сообщают, что у мужчин низкий или высокий уровень тестостерона может быть связан с повышенным риском фибрилляции предсердий — распространённого нарушения сердечного ритма.

Специалисты изучили исследования, посвящённые связи уровня тестостерона, заместительной гормональной терапии и здоровья сердца. Данные показали U-образную зависимость: риск фибрилляции предсердий оказался выше при низких и высоких концентрациях гормона, а наиболее низким — примерно в середине нормального диапазона.

Авторы статьи предполагают, что недостаток и избыток тестостерона могут влиять на клетки сердца через разные биологические механизмы. Исследователи рекомендуют мужчинам, которым необходима заместительная терапия тестостероном, поддерживать уровень гормона примерно в диапазоне 350–550 нанограммов на децилитр и регулярно контролировать состояние сердечно-сосудистой системы.

При этом предложенный диапазон основан преимущественно на наблюдательных данных и пока не проверен в специальных клинических испытаниях.

Лента ру

Нейросеть
Изучают взаимодействие геномов
Генетики создают трансгенных животных, в том числе мышей и коров, но с комарами подобных экспериментов пока не проводили.

Казалось бы, зачем, если эволюционные пути человека и мыши разошлись всего 70–90 миллионов лет назад, оставив значительное сходство в ДНК и почти одинаково функционирующие внутренние органы, а с комарами — 600 миллионов лет назад, когда наши общие предки, такие как губки или медузы, ещё обитали в океане. Однако именно эта генетическая удалённость и непохожесть комаров на человека привлекли внимание учёных, занимающихся фундаментальными исследованиями генома и обучением анализу ДНК нейросетей.

Им стало интересно, как белки человеческой клетки взаимодействуют с генетическим материалом далёкого вида. «Для чего надо выяснять взаимодействие человеческого и комариного геномов?

У нас что, есть шанс когда-либо объединиться?» — спросили учёные.

«Есть несколько причин, которые нас мотивируют к таким исследованиям, — ответил Вениамин Фишман. — Одна из них — обучение искусственного интеллекта.

Он проникает во все сферы деятельности, и в биологию тоже. Но если при работе с текстами или изображениями он достиг уже очень большого успеха, то в биологии есть проблема: в нашем генетическом наборе, в отличие от классического буквенного алфавита, всего четыре буквы-нуклеотида — А, T, G, С — и они не подчиняются никаким правилам грамматики, это всего лишь химические молекулы».

Учёные исследуют, как изменения в геноме человека влияют на его заболевания и предрасположенности. Однако, когда дело доходит до уникальных мутаций конкретного пациента, все наработанные правила перестают работать.

«И при чём тут, извините, комар?» — спросили учёные.

«Это наше радикальное решение проблемы знакомства с необычными последовательностями: давайте возьмём последовательность, которую у человека мы никогда не встречали, и добавим в эту выборку, чтобы разнообразить её, — объяснил Вениамин Фишман. — Ведь на самом деле человек с точки зрения генетики очень однообразный вид, даже у коров больше разнообразия».

Учёные решили исследовать геном комаров, чтобы понять, как ведут себя необычные последовательности в другом виде организмов. Они использовали культуру клеток комаров Anopheles stephensi, одного из самых изученных видов малярийных комаров, который исторически являлся главным переносчиком малярии в городах Южной Азии.

«А не слишком рискованно объединять геномы таких комариков с человеческими?» — спросили учёные.

«Вот тут мы и подходим к нашим результатам, которые говорят о том, что вставленные нами куски генома комара в человеческий геном ни к чему не привели, они просто перестали работать в гибридном варианте, — ответил Вениамин Фишман. — Мы как раз показываем, что от таких далёких видов ничего человеку перенести нельзя».

Московский комсомолец

Улучшают ли овёс и ячмень здоровье сердца
В журнале Nutrients были опубликованы результаты исследования, согласно которым регулярное употребление продуктов из цельного зерна овса и ячменя может положительно влиять на показатели, связанные с риском сердечно-сосудистых заболеваний.

В шестинедельном двойном слепом рандомизированном исследовании участвовали 68 взрослых. Их разделили на три группы: первая придерживалась контрольного рациона, вторая ежедневно употребляла продукты из цельнозернового овса, третья — продукты из цельнозернового ячменя.

Овсяная диета привела к заметному улучшению профиля липопротеинов: у участников снизилось количество общего холестерина и мелких частиц LDL («плохого» холестерина), которые считаются более атерогенными. Уровень LDL-холестерина снизился примерно на 11,2 миллиграмма на децилитр по сравнению с контрольной группой, хотя этот показатель немного не достиг статистической значимости.

Ячмень способствовал снижению диастолического давления примерно на 3 миллиметра ртутного столба и уровня маркера, связанного с воспалением сосудистой стенки. Авторы исследования считают, что овёс и ячмень могут давать несколько разных, но дополняющих друг друга преимуществ для сердечно-сосудистой системы.

Возможную роль играет бета-глюкан — растворимая клетчатка, которая способна влиять на обмен холестерина.

Лента ру

Другие новости