Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Омега-3 снижают давление и воспаление
Учёные из Аргентины выяснили, что приём омега-3 жирных кислот может помочь снизить артериальное давление и уменьшить некоторые показатели воспаления у людей с гипертонией и нарушениями липидного обмена.

Результаты исследования опубликованы в журнале Nutrients. В эксперименте участвовали 100 взрослых пациентов, которые уже принимали лекарства от повышенного давления и нарушений липидного обмена.

В течение 12 недель одна группа ежедневно принимала по 2 грамма омега-3 жирных кислот, а другая — плацебо. При этом участники продолжали обычное лечение.

Оказалось, что у тех, кто принимал омега-3, дневное верхнее давление снизилось в среднем на 6,5 миллиметра ртутного столба больше, чем в группе плацебо, а ночное нижнее — на 5,6 миллиметра ртутного столба. Также у них уменьшились некоторые показатели воспаления в крови и расчётный показатель жёсткости сосудов.

Исследователи предполагают, что омега-3 могут оказывать дополнительное благоприятное влияние на сосуды даже на фоне медикаментозного лечения. Ранее учёные выяснили, что употребление рыбы может снижать риск гипертонических осложнений при беременности.

Лента ру

Бактерия из сыра снижает чувствительность кишечника
Учёные выяснили, что бактерия Propionibacterium freudenreichii, которая содержится в сыре эмменталь, может снижать повышенную чувствительность кишечника после воспаления.

Они изучили действие пробиотика и опубликовали результаты в журнале Food & Function (F&F). Специалисты исследовали штамм бактерии CIRM-BIA129, который был выделен из сыра эмменталь.

Бактерию выращивали в молочной среде, а затем изучали её влияние на чувствительность кишечника у крыс. Оказалось, что у животных, получавших пробиотик, снижалась чувствительность кишечника к растяжению, которое может вызывать боль.

Эффект был особенно выраженным у крыс, перенёсших воспаление кишечника. Такое состояние использовали для моделирования синдрома раздражённого кишечника.

Учёные также обнаружили, что в кишечнике животных увеличилось количество полезной бактерии Akkermansia muciniphila. Снижение чувствительности сопровождалось изменениями кишечной микрофлоры.

Ранее исследователи установили, что изучаемый штамм способен уменьшать воспаление и защищать кишечный барьер. Кроме того, ранее учёные выяснили, что регулярное употребление кофе может улучшать работу кишечника.

Лента ру

Зафиксирован загадочный объект в форме медузы
Сара Джейн Осборн запечатлела на видео странный объект, похожий на медузу, который завис в небе над военной базой США.

По всей видимости, объект исчез за несколько минут. Женщина фотографировала радугу в Анкоридже и заметила тёмную фигуру, возвышающуюся над далёкими деревьями.

Она считает, что объект находился недалеко от объединённой базы Элмендорф-Ричардсон, где базируются истребители и проводятся операции по противовоздушной обороне и наблюдению. Сначала Осборн подумала, что объект может быть насекомым: «Я была раздражена, потому что подумала: „Это что, комар?

“». Но когда она посмотрела за пределы экрана своего телефона, то поняла, что насекомое гораздо крупнее, чем ей показалось вначале.

Она предупредила своего мужа Пита, который был с ней, и начала фотографировать и фиксировать объект. Осборн рассказала, что у объекта, по-видимому, было несколько свисающих отростков, которые двигались независимо, когда он парил и поворачивался из стороны в сторону.

По её оценкам, он оставался видимым около трёх минут, прежде чем исчезнуть почти так же внезапно, как и появился: «Он исчез почти так же быстро, как и появился». Супруги были озадачены размерами объекта, особенно после того, как заметили неподалёку небольшой самолёт, который по сравнению с ним казался крошечным.

После этого они обыскали местность, но не смогли найти воздушного змея или что-либо, что могло бы дать очевидное объяснение тому, что они видели. Это произошло после того, как жители Уилтшира и Глостершира убедились, что в 1989 году они видели НЛО в виде медузы.

Согласно статье, опубликованной на первой полосе «Суиндон Стар», впервые НЛО был замечен водителями на шоссе недалеко от Страуда. В отчётах очевидцев отмечалось, что объект был «больше вертолёта, с большим количеством огней, чем у самолёта» и летал вокруг с невероятной скоростью.

Однако фотографий или видеозаписей НЛО сделано не было.

Московский комсомолец

Кофе без кофеина влияет на активность мозга
Китайские учёные опубликовали в журнале Frontiers in Neurology результаты исследования, согласно которым кофе без кофеина способен влиять на активность мозга и улучшать скорость реакции.

Эксперимент проводился с участием 31 взрослого добровольца. До и через 30 минут после употребления кофе без кофеина участники проходили тесты на внимание, память и скорость реакции.

Также учёные оценивали активность мозга добровольцев с помощью функциональной магнитно-резонансной томографии. После употребления напитка участники эксперимента быстрее справлялись с заданиями, требующими внимания и запоминания информации.

Улучшения были отмечены и в тестах на скорость движений пальцев. Сканирование показало повышение активности в областях мозга, связанных с обработкой зрительной информации, а также изменения в зонах, отвечающих за управление движениями.

Активность одной из этих областей коррелировала со скоростью выполнения теста на внимание. Кроме того, исследователи зафиксировали повышение диастолического артериального давления и усиление головной боли после употребления кофе без кофеина.

При этом частота сердечных сокращений и систолическое давление существенно не изменились. Учёные предположили, что на работу мозга могут влиять не только кофеин, но и другие вещества, содержащиеся в кофе.

Ранее было установлено, что регулярное употребление кофе может оказывать положительное воздействие на работу кишечника.

Лента ру