Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Орехи улучшают когнитивные функции
Учёные, опубликовавшие результаты своего исследования в журнале Food & Function (F&F), выяснили, что регулярное употребление орехов может положительно влиять на когнитивные способности, особенно у людей с низкой физической активностью и не самым здоровым рационом.

В исследовании приняли участие 1771 человек из Фрамингемского исследования сердца, средний возраст которых составлял около 61 года. Специалисты изучили потребление орехов, результаты тестов на память и мышление, объём мозга, уровни нейротрофических факторов, а также частоту инсульта и деменции в течение последующих десяти лет.

Оказалось, что у людей, не переносивших инсульт, более высокое потребление орехов было связано с лучшими общими результатами когнитивных тестов. Особенно заметной эта связь была у участников, которые мало двигались или придерживались менее качественного рациона.

У физически активных людей употребление орехов также связывали с большим общим объёмом мозга. При этом за десять лет наблюдения не было обнаружено связи между употреблением орехов и снижением частоты инсульта или деменции.

Ранее учёные выяснили, что ежедневное употребление миндаля помогает улучшить качество сна.

Лента ру

Физическая активность снижает уровень тревоги и стресса
Китайские исследователи обнаружили, что систематические занятия спортом способствуют снижению уровня тревожности, депрессии и стресса.

В течение года они наблюдали за почти 900 молодыми людьми и опубликовали результаты в журнале Frontiers in Psychology. В эксперименте участвовали 877 студентов из двух китайских вузов.

Учёные изначально оценили их физическую активность и эмоциональное состояние, через шесть месяцев — уверенность в спортивных способностях, а через год — психологическую устойчивость и уровень негативных эмоций. При этом учитывались пол, курс обучения и изначальное психическое состояние участников.

Оказалось, что студенты, которые вели более активный образ жизни, через год реже испытывали тревогу, депрессию и стресс. Физическая активность не только напрямую уменьшала риск негативных эмоций, но и действовала косвенно через два механизма.

Она способствовала повышению уверенности в способности регулярно заниматься спортом и укрепляла психологическую устойчивость — способность легче справляться со стрессовыми ситуациями и жизненными трудностями. Авторы подчёркивают, что исследование не доказывает причинно-следственную связь, но впервые на длительном наблюдении показывает, как регулярные физические нагрузки могут поддерживать психическое здоровье.

Ранее учёные выяснили, что частое употребление бабл-ти связано с повышенным риском тревожности.

Лента ру

Ген неандертальцев влияет на телосложение
В журнале Current Biology появилась статья, в которой международная группа учёных поделилась результатами исследования.

Они обнаружили вариант гена рецептора гормона роста, который современные люди унаследовали от неандертальцев. Этот генетический «привет» из прошлого влияет на телосложение: у носителей этого варианта в среднем больше мышечная масса, а также есть некоторые антропологические черты, характерные для древних предков.

Неандертальцы, чьи линии разошлись с предками современных людей около полумиллиона лет назад, действительно были более коренастыми и мускулистыми, о чём свидетельствуют их плотные кости и массивный скелет. Эволюционный антрополог Хуго Зеберг из Каролинского института обратил внимание на один из ключевых вариантов в пути синтеза гормона роста.

Этот вариант делает рецепторы клеток гиперчувствительными к сигналам гипофиза, заставляя мышцы и кости активнее разрастаться. Анализ древних и современных геномов показал, что этот вариант присутствует в 94% геномов неандертальцев, но менее чем у 10% современных людей.

Чаще всего он встречается у жителей Южной и Восточной Азии (в 20% и 15% случаев соответственно). Учёные предполагают, что ген попал в генофонд Homo Sapiens около 47 тысяч лет назад в результате смешения двух популяций.

Лабораторные эксперименты подтвердили гипотезу: клетки с неандертальской версией гена вырастали примерно на 40% крупнее, чем клетки со стандартной версией. Биометрические данные носителей этого гена показали, что они весят в среднем на 285 граммов больше за счёт увеличения мышечной, а не жировой ткани.

У таких людей также наблюдаются некоторые черты лица, сближающие их с неандертальцами, например, более короткие корни зубов и укороченная ветвь нижней челюсти.

Московский комсомолец

Собаки обогащают дом полезными микробами
В журнале Pediatric Allergy and Immunology опубликованы результаты исследования финских учёных под руководством педиатра Дженни Мяки из Финского института здравоохранения и социального обеспечения.

В течение первого года жизни учёные наблюдали за 368 младенцами и выяснили, что собаки обогащают дом специфическими микроорганизмами, которые связаны с уменьшением заболеваемости у детей. Исследователи собирали образцы пыли с полов в гостиных, когда каждому ребёнку исполнилось два месяца.

Родители еженедельно в течение года фиксировали состояние здоровья малышей, заполнив более 15 тысяч отчётов. В домах с собаками было обнаружено 14 видов микробов, встречающихся значительно чаще.

Восемь из них объясняли от 10 до 23 процентов улучшения показателей здоровья. Лидером среди них стала бактерия Pasteurella, которая обитает во рту и на коже собак, но крайне редко встречается у людей — её присутствие в пыли коррелировало с уменьшением числа недель с лихорадкой у младенцев.

Другой микроорганизм, коллинзелла, оказался наиболее стабильным и был связан с общим снижением инфекций. Три родственные бактерии совместно объяснили примерно четверть сокращения случаев применения антибиотиков в семьях с собаками.

Положительный эффект сохранялся независимо от места проживания — будь то ферма, сельская местность или город, а также после учёта таких факторов, как размер семьи и наличие курения. Общее количество бактерий в пыли не играло роли: здоровье детей определяли именно конкретные виды, связанные с четвероногими питомцами.

Соавтор исследования Энн Карвонен подчеркнула, что снижение респираторных инфекций в раннем возрасте может в перспективе уменьшить риск развития астмы у ребёнка. По словам Мяки, «владение собакой уже сегодня способствует этому».

Московский комсомолец

Другие новости