Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Защити печень витаминами
Турецкие исследователи провели эксперимент и опубликовали результаты в журнале Scientific Reports.

Они изучали влияние совместного приёма витамина Е и мелатонина на повреждение печени, вызванное ацетамипридом — распространённым сельскохозяйственным инсектицидом. В эксперименте участвовали 50 мышей.

Воздействие ацетамиприда привело к повреждению печени у животных: у них повысился уровень печёночных ферментов ALT, AST и ALP, усилился окислительный стресс. Исследование тканей показало некроз — гибель клеток печени, воспаление и развитие фиброза.

На клеточном уровне учёные обнаружили повреждения митохондрий и эндоплазматического ретикулума, а также усиление процессов запрограммированной гибели клеток. Приём мелатонина и витамина Е уменьшал выраженность этих нарушений.

Наиболее заметный защитный эффект наблюдался при совместном применении двух веществ: биохимические показатели приближались к нормальным, признаки гибели клеток снижались, а структура печени сохранялась лучше. Учёные связывают такой эффект с антиоксидантным действием мелатонина и витамина Е.

Оно помогает противостоять вызванному ацетамипридом окислительному стрессу.

Лента ру

Изобрети компактное решение для запахов
Изобретатель отмечает, что его разработка — не первый стульчак с функцией отсасывания неприятных запахов.

Подобные устройства уже патентовались ранее, однако они были громоздкими и неэстетичными, а также дорогостоящими и сложными в установке. Они требовали изменения конструкции унитаза или монтажа сложной системы откачки воздуха.

Стульчак Савкина компактен, легко устанавливается и прост в использовании. Вся система представляет собой единый узел-сиденье, состоящий из ободка и крышки, как обычный стульчак.

Однако его внутреннее строение отличается наличием вентилятора, воздухозаборников и внутренних каналов для движения воздуха. В отличие от ранее изобретённых систем, у стульчака Савкина нет сложных в монтаже наружных блоков, трубопроводов между сиденьем и вентилятором и т.

д. Забор и вывод загрязнённого воздуха происходит через само сиденье, из наружных деталей — только патрубок, соединяющий систему с вентиляцией.

На ободке сиденья расположен передний воздухозаборный элемент — небольшое обтекаемое возвышение на передней части с щелями, ориентированными в сторону внутреннего объёма чаши. В задней внутренней части ободка сиденья — второй воздухозаборный элемент, выполненный в виде отверстия с вентиляционной решёткой, также ориентированного в сторону внутреннего объёма чаши.

Корпус ободка — полый для образования воздуховодных каналов, соединяющих воздухозаборные элементы со входом вентилятора, расположенного в интегрированном корпусе вентиляторного блока. Вентилятор создаёт разрежение во внутренних каналах, засасывает воздух через оба воздухозаборных элемента и направляет его к выходному патрубку диаметром 40–60 мм.

Запуск происходит автоматически при срабатывании датчика или вручную при нажатии кнопки включения, которые расположены на блоке с кнопкой и датчиком включения. Автор: Николай Акимов, Россия.

Московский комсомолец

Ламотриджин уменьшает частоту ауры при мигрени
Учёные из Лундского университета в Швеции выяснили, что противоэпилептический препарат ламотриджин способен существенно сокращать частоту ауры при мигрени.

Результаты исследования опубликованы в журнале Frontiers in Neurology (FN). В эксперименте приняли участие 81 человек, страдающий от частых или особенно тяжёлых мигренозных аур.

Эти состояния могут проявляться в виде нарушений зрения, временной слепоты, онемения, проблем с равновесием и речью. После лечения ламотриджином количество дней с аурой уменьшилось в среднем с 6,9 до 1,4 дня в месяц, то есть примерно на 80 процентов.

У 85 процентов пациентов, у которых аура была основным симптомом мигрени, её частота снизилась как минимум вдвое. Ламотриджин чаще всего используется для лечения эпилепсии и биполярного расстройства.

Он уменьшает чрезмерную возбудимость нервных клеток, влияя на их электрическую активность и снижая высвобождение глутамата. Предполагается, что благодаря этому препарат может предотвращать процессы в коре мозга, которые вызывают мигренозную ауру.

Ранее исследователи установили, что следование средиземноморской диете уменьшает риск возникновения хронической мигрени.

Лента ру

Жирная пища активирует распространение рака
Учёные из Массачусетского технологического института выяснили, что пища с высоким содержанием жиров может активизировать в раковых клетках механизм, который способствует их распространению из кишечника в другие органы.

Результаты исследования опубликованы в журнале Science. В основе этого механизма — белок YAP1, который в норме участвует в восстановлении кишечника после повреждений.

Однако раковые клетки могут использовать эту способность для своего роста и распространения. Эксперименты на мышах показали, что жирная пища усиливает активность YAP1.

Такой рацион приводит к повышению образования особых жировых молекул — церамидов, которые помогают активировать YAP1. В результате опухолевые клетки легче покидают первоначальную опухоль и образуют метастазы.

При раке кишечника они чаще всего появляются в печени. Когда учёные блокировали YAP1 или образование церамидов, количество метастазов в печени у мышей заметно снижалось.

Анализ данных людей с колоректальным раком показал похожую картину: YAP1 был активнее в метастатических клетках, а высокая активность связанных с ним генов была связана с более низкой выживаемостью. Исследователи планируют разработать препараты, которые смогут блокировать образование церамидов и тем самым мешать раковым клеткам распространяться по организму.

Ранее учёные выяснили, что увеличение порции ультрапереработанных продуктов может повышать риск рака и диабета.

Лента ру