Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

В журнале Nature Medicine было опубликовано исследование Пенсильванского университета, которое показало: целенаправленное уничтожение «спящих» опухолевых клеток, оставшихся в костном мозге и других тканях, может резко снизить риск рецидива. В клиническом испытании участвовали 51 пациентка, которым применяли комбинацию двух препаратов — гидроксихлорохина и эверолимуса.

Каждый из них по отдельности устранял до 80 процентов «спящих» клеток, а вместе они оказались ещё эффективнее — уничтожали до 87 процентов. Через три года наблюдения все женщины, получавшие оба препарата, не имели признаков болезни.

В группах, где применяли только один препарат, показатель выживаемости составил 92–93 процента. Авторы исследования утверждают, что такой подход открывает новый путь борьбы с раком груди: врачи смогут заранее атаковать скрытые причины опухоли, а не ждать возможного возврата.

Следующим шагом должны стать масштабные клинические исследования и подбор оптимальных комбинаций лекарств. Ранее стало известно, что препараты класса агонистов GLP-1, которые обычно назначают при диабете и ожирении, могут снижать риск рецидива и улучшать выживаемость у пациентов с немелкоклеточным раком лёгких.

Результаты исследования опубликованы в журнале Nutrients. В эксперименте участвовали 72 добровольца в возрасте от 55 до 70 лет.

В течение трёх месяцев они ежедневно принимали либо капсулы с экстрактом граната (740 миллиграммов), либо плацебо. К завершению эксперимента у группы, принимавшей экстракт, уровень IGF-1 значительно увеличился.

Этот гормон имеет важное значение для здоровья: он способствует обновлению клеток, укреплению мышц и костей, улучшению работы сосудов и мозга. С возрастом уровень IGF-1 снижается, что может привести к потере сил и повышению риска заболеваний.

Экстракт граната не оказал заметного влияния на длину теломер — защитных «колпачков» на концах хромосом, которые отражают скорость клеточного старения. Однако повышение уровня IGF-1 может быть полезным для сосудистой системы и общего самочувствия.

Исследователи подчёркивают, что результаты обнадеживают, но для окончательных выводов необходимы долгосрочные исследования, чтобы подтвердить пользу экстракта граната и исключить возможные риски его применения. Ранее учёные выяснили, что порошок из вишни помогает замедлить развитие возрастных заболеваний, включая деменцию и болезнь Альцгеймера.

Об этом сообщил руководитель Управления по охране объектов культурного наследия Республики Саха (Якутия) Николай Макаров в разговоре с ТАСС. Он подчеркнул, что такие находки встречаются нечасто.

Макаров отметил, что археологи установят, представляет ли захоронение ценность. Возможно, внутри будут найдены предметы, имеющие особое значение, поскольку подобные погребения сопровождались определёнными ритуалами.

Эксперт также не исключил, что в этом районе могут быть найдены и другие подобные захоронения. Ранее сообщалось, что в Юго-Восточной Азии обнаружены «копчёные» мумии, возраст которых составляет 12 тысяч лет.

Результаты исследования опубликованы в журнале Nutrients. В эксперименте приняли участие 22 здоровых человека — мужчины и женщины.

В разных сессиях они получали порцию глюкозы или сахарозы, иногда вместе с чаем из малиновых листьев. При употреблении сахарозы вместе с чаем через 15 минут уровень сахара был ниже на четверть, а через полчаса — почти наполовину по сравнению с контрольной группой.

Уровень инсулина также рос медленнее, что свидетельствует о более сбалансированной реакции организма. Авторы исследования объясняют эффект содержанием в листьях малины полифенолов, включая эллаговую кислоту.

Эти вещества замедляют работу ферментов, которые расщепляют сахарозу, поэтому усвоение происходит постепенно. Для глюкозы подобного действия выявлено не было.

Учёные подчёркивают, что это первое клиническое подтверждение пользы малинового чая для контроля сахара. В дальнейшем планируется проверить эффект напитка у людей с преддиабетом и диабетом второго типа, где такой простой метод может иметь особое значение.

Ранее учёные сообщали, что зелёный чай способен снижать вес и улучшать показатели обмена сахара в организме.