Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Изучи паразитов в ротовой полости животных
Многие считают, что у собак рот чище, чем у людей.

Но на самом деле во рту у собаки столько же микробов, сколько и у человека. Исследование показало, что паразит Trichomonas tenax, который обычно встречается у людей, также обнаруживается у домашних собак и в меньшей степени у кошек.

Trichomonas tenax — это микроорганизм, который питается микробами во рту, в частности между зубами и вокруг дёсен. Большинство людей даже не подозревают, что у них есть этот паразит, и хотя он не всегда вызывает проблемы со здоровьем, его связывают с некоторыми инфекциями дёсен.

Учёные взяли мазки изо рта у 238 домашних животных в Польше, в том числе у 151 собаки и 87 кошек. При культивировании образцов трихомонады были обнаружены в 17% мазков, взятых у собак, и почти в 6% — у кошек.

Среди собак животные старше 9 лет и с отложениями зубного камня были более склонны к оральному заражению трихомонадами. Условия содержания также могут играть определённую роль, хотя разница не была статистически значимой.

Все кошки, у которых были обнаружены трихомонады, были домашними животными с ограниченным контактом с внешним миром, но более тесным — с людьми. «Таким образом, — предполагают авторы, — основным источником инфекции, по-видимому, стали люди, для которых T.

tenax считается типичным видом». Исследователь Агнешка Пекара-Степиньская поясняет: «Несмотря на очевидные доказательства их роли в качестве патогенов, трихомонады у собак и кошек остаются малоизученными.

Эти домашние животные особенно важны из-за их тесного контакта с людьми, что увеличивает риск передачи патогенов, обладающих зоонозным потенциалом». Кошки — типичные хозяева вируса, но он также может попасть в мозг человека и оставаться там десятилетиями.

В большинстве случаев это не вызывает проблем со здоровьем, но у детей или людей с ослабленной иммунной системой могут возникать тяжёлые гриппоподобные симптомы, а также ухудшение зрения и воспаление мозга. Присутствие паразита в организме человека связано с шизофренией.

Московский комсомолец

Помогают ультразвуком при Паркинсоне
Специалисты выяснили, что применение сфокусированного ультразвука для воздействия на конкретные области мозга может снизить дрожание рук, мышечную скованность и другие двигательные нарушения у пациентов с болезнью Паркинсона.

При этом не требуется делать разрезы или имплантировать электроды. Результаты исследования опубликованы в журнале The Lancet Neurology.

В клиническом исследовании участвовали 54 пациента с болезнью Паркинсона. Учёные проверили метод, при котором ультразвуковые волны направляют через череп на небольшую область мозга, отвечающую за управление движениями.

Процедура проводится под контролем магнитно-резонансной томографии. Ультразвук нагревает ткани точечно и создаёт небольшой участок повреждения в нервном пути, прерывая неправильные сигналы, вызывающие тремор, скованность и непроизвольные движения.

Сначала пациентам проводили лечение с одной стороны мозга, а через не менее чем шесть месяцев предлагали повторить процедуру с другой. В итоге двустороннее лечение прошли 40 человек.

Через три месяца после второй процедуры 86 процентов пациентов отметили хотя бы небольшое улучшение состояния, а 62 процента остались довольны результатом. Однако дополнительная польза от второго вмешательства оказалась менее выраженной, чем от первого.

У некоторых участников возникли проблемы с речью, ходьбой и равновесием. Авторы исследования подчёркивают, что ультразвуковая терапия не излечивает болезнь, но может облегчить её наиболее тяжёлые двигательные симптомы и улучшить качество жизни.

Из-за возможных побочных эффектов метод подходит не всем пациентам.

Лента ру

Изучают влияние одиночества на крыс
Известно, что одиночество вредит здоровью.

По данным Всемирной организации здравоохранения, социальная изоляция увеличивает риск деменции, сердечно-сосудистых заболеваний и депрессии. Одни люди переносят изоляцию сравнительно безболезненно, для других она становится разрушительной.

Учёные Института высшей нервной деятельности и нейрофизиологии РАН провели эксперимент с лабораторными крысами, чтобы разобраться в процессах, которые происходят в организме одиноких людей. Крысы были выбраны для исследования, потому что они генетически близки человеку (около 90% генов совпадают), поэтому многие недуги, которыми страдает человек, свойственны и крысам.

Руководитель проекта, ведущий научный сотрудник лаборатории функциональной биохимии нервной системы Института Михаил Степичев, пояснил, что в ходе эксперимента хотели смоделировать ситуацию, в которую люди попали во время пандемии ковида. Проблема коснулась многих людей, так как правительства большого количества стран в качестве меры по борьбе с пандемией выбрали социальную изоляцию.

Сильнее всего от этой изоляции страдали одинокие пенсионеры. В эксперименте приняли участие 110 особей трёх линий — здоровые, склонные к депрессивному поведению и животные с врождённой гипертонией.

Все крысы принадлежали к старшей возрастной группе. Животных разделили на две равных группы.

Одна продолжала жить в привычных условиях, а вторую половину почти на четыре месяца рассадили по одиночным клеткам. После этого крыс начали тестировать, в частности, их обучали проходить тесты в лабиринте Барнса.

Это большой круглый стол с отверстиями, под одним из которых спрятан домик-убежище. Тест позволяет оценить пространственную память животного.

Тестирование показало, что одиночество негативно повлияло на способность всех особей, находившихся в изоляции. Учёные изучили клеточную архитектуру гиппокампа и оценили активность генов, связанных с воспалением в отделах мозга.

Здоровые крысы перенесли изоляцию лучше всех: у них не было ни потери нейронов, ни признаков нейровоспаления. Но долговременную память они всё же не сформировали.

Намного заметнее длительное одиночество сказалось на крысах, склонных к депрессии. Плотность нейронов в их гиппокампе снизилась на 17,5%, то есть появилась очевидная физиологическая причина для снижения их способности запоминать и ориентироваться в пространстве.

А хуже всего изоляцию перенесли крысы-гипертоники. Они сильно похудели, стали весить на 10% меньше и хуже всех справлялись с задачами на память.

Полученные данные показали, что генетический фон играет значительную роль в том, как социальная изоляция влияет на состояние мозга у стареющих животных. Учёные планируют продолжить эксперименты, чтобы показать, можно ли остановить процессы, запущенные вынужденной изоляцией, восстановить первоначальное состояние организма, насколько этому может способствовать возвращение в группы.

Московский комсомолец

Клюква уменьшает рост бактерий
Учёные выяснили, что соединения, содержащиеся в клюкве, могут быть полезны не только для предотвращения инфекций мочевыводящих путей, но и для гигиены полости рта.

Употребление клюквенного сока подавляет рост зубного налёта, что стало неожиданностью для многих. Детский стоматолог Кристин Ву из Чикаго отметил, что клюквенный сок многие считают кислым и приторным, поэтому не верят в его положительное влияние на здоровье полости рта.

Однако исследование показало обратное. Клюква содержит проантоцианидины, которые могут подавлять бактериальные инфекции.

В случае ИМП проантоцианидины затрудняют прикрепление кишечной палочки к клеткам мочевого пузыря. Также есть данные, что проантоцианидины могут помочь защитить полость рта, подавляя бактерии, такие как Streptococcus mutans, которые накапливаются в зубном налёте.

Чтобы выяснить, могут ли проантоцианидины в клюквенном соке оказывать защитное действие, Ву и его коллеги провели исследование с участием восьми взрослых и 14 детей. Участники воздерживались от гигиены полости рта в течение 24 часов, после чего с одной стороны рта брали мазок для удаления зубного налёта.

Затем участники полоскали рот клюквенным соком и через тридцать минут исследователи снимали налёт с другой стороны рта. Результаты показали, что употребление чистого клюквенного сока привело к уменьшению роста бактерий на 44 процента, а у детей-участников — на 33 процента по сравнению с исходными мазками.

Более значительное снижение численности бактерий у взрослых может отражать возрастные различия в составе зубного налёта. Чистый клюквенный сок также значительно снизил выработку кислот в зубном налёте у участников, потенциально ограничивая ущерб, который эти кислоты могут нанести зубной эмали.

Исследователи предполагают, что чистый клюквенный сок превосходит подслащённый клюквенный напиток из-за более высокого содержания проантоцианидина. Однако для подтверждения этого потребуются дальнейшие исследования.

Московский комсомолец

Другие новости