Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Ламотриджин уменьшает частоту ауры при мигрени
Учёные из Лундского университета в Швеции выяснили, что противоэпилептический препарат ламотриджин способен существенно сокращать частоту ауры при мигрени.

Результаты исследования опубликованы в журнале Frontiers in Neurology (FN). В эксперименте приняли участие 81 человек, страдающий от частых или особенно тяжёлых мигренозных аур.

Эти состояния могут проявляться в виде нарушений зрения, временной слепоты, онемения, проблем с равновесием и речью. После лечения ламотриджином количество дней с аурой уменьшилось в среднем с 6,9 до 1,4 дня в месяц, то есть примерно на 80 процентов.

У 85 процентов пациентов, у которых аура была основным симптомом мигрени, её частота снизилась как минимум вдвое. Ламотриджин чаще всего используется для лечения эпилепсии и биполярного расстройства.

Он уменьшает чрезмерную возбудимость нервных клеток, влияя на их электрическую активность и снижая высвобождение глутамата. Предполагается, что благодаря этому препарат может предотвращать процессы в коре мозга, которые вызывают мигренозную ауру.

Ранее исследователи установили, что следование средиземноморской диете уменьшает риск возникновения хронической мигрени.

Лента ру

Жирная пища активирует распространение рака
Учёные из Массачусетского технологического института выяснили, что пища с высоким содержанием жиров может активизировать в раковых клетках механизм, который способствует их распространению из кишечника в другие органы.

Результаты исследования опубликованы в журнале Science. В основе этого механизма — белок YAP1, который в норме участвует в восстановлении кишечника после повреждений.

Однако раковые клетки могут использовать эту способность для своего роста и распространения. Эксперименты на мышах показали, что жирная пища усиливает активность YAP1.

Такой рацион приводит к повышению образования особых жировых молекул — церамидов, которые помогают активировать YAP1. В результате опухолевые клетки легче покидают первоначальную опухоль и образуют метастазы.

При раке кишечника они чаще всего появляются в печени. Когда учёные блокировали YAP1 или образование церамидов, количество метастазов в печени у мышей заметно снижалось.

Анализ данных людей с колоректальным раком показал похожую картину: YAP1 был активнее в метастатических клетках, а высокая активность связанных с ним генов была связана с более низкой выживаемостью. Исследователи планируют разработать препараты, которые смогут блокировать образование церамидов и тем самым мешать раковым клеткам распространяться по организму.

Ранее учёные выяснили, что увеличение порции ультрапереработанных продуктов может повышать риск рака и диабета.

Лента ру

Ухудшает питание сетчатки жирное питание
Исследования, опубликованные в журнале Frontiers in Physiology (FP), показали, что регулярное употребление пищи с высоким содержанием жиров может нарушить работу сосудов сетчатки, что представляет угрозу для здоровья глаз.

В ходе эксперимента мышей кормили жирной пищей в течение 18 недель. В результате сосуды их сетчатки стали хуже расширяться и менее чувствительными к изменениям давления по сравнению с мышами, которые питались обычным кормом.

Это имеет большое значение, так как сосуды обеспечивают сетчатку кислородом и питательными веществами. Если их работа нарушена, это может ухудшить кровоснабжение и со временем привести к повреждению клеток сетчатки.

Кроме того, у мышей, которых кормили жирной пищей, усилился окислительный стресс в тканях глаза. Также у животных повысилась активность веществ, связанных с воспалением и недостатком кислорода.

Учёные пришли к выводу, что длительное употребление пищи с высоким содержанием жиров может негативно влиять на сосудистую систему сетчатки. Однако авторы исследования подчёркивают, что эксперимент проводился только на мышах.

Ранее стало известно, что дефицит витамина D может привести к изменениям в мелких сосудах сетчатки.

Лента ру

Ускорь мозг нагрузкой на кости
Учёные провели исследование, результаты которого были опубликованы в журнале Nature Neuroscience (NN).

Они обнаружили, что механическая нагрузка на кости ног может ускорить восстановление мозга после травм и инсульта. Для этого учёные ритмично сдавливали большеберцовую кость, имитируя механическую нагрузку.

В результате такой стимуляции у животных с черепно-мозговой травмой и инсультом улучшились двигательные и когнитивные функции, повысилась выживаемость. В мозге животных уменьшилась гибель нейронов и хроническое воспаление, одновременно усилилось восстановление нервных клеток.

Исследователи выяснили, что ключевую роль в этом процессе играет белок PIEZO1 в клетках костной ткани. Когда его отключали, положительный эффект нагрузки исчезал.

Механическое воздействие заставляло клетки костей выделять в кровь ряд веществ, среди которых были белки, участвующие в защите нервных клеток. Кроме того, повышался уровень BDNF и дофамина.

Перенос сыворотки крови от животных, получавших такую нагрузку, также оказывал защитное действие. Авторы исследования считают, что результаты указывают на существование своеобразной связи между костями и мозгом: механическая нагрузка на костную ткань может запускать процессы, способствующие восстановлению мозга.

Ранее учёные выяснили, что пересадка нервных клеток помогает восстановить ткань мозга после инсульта.

Лента ру

Другие новости