Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Археологи раскрыли тайну древних египтянок
Египетские археологи из Университета Бени-Суэфа установили, что женщины из знатных семей в Древнем Египте четыре тысячи лет назад умели обращаться с оружием и активно участвовали в охоте.

Об этом стало известно из публикации в журнале Popular Science 17 июля. Учёные под руководством Зейнаб Хашеш изучили останки шести женщин, обнаруженных в некрополе Дахшур, который находится рядом с пирамидами Гизы.

Среди них четыре сестры — дочери фараона Аменемхета II, правившего в эпоху Среднего царства. Мумии были найдены в конце XIX века, но долгое время считались утерянными.

Повторно идентифицировать их удалось в 2020 году в Каирском египетском музее. По словам археолога Зейнаб Хашеш, члены королевской семьи, особенно женщины, регулярно занимались сложными физическими видами деятельности, требующими высокой квалификации.

Например, охотой и стрельбой из лука. Исследование скелета принцессы Иты, которая умерла в возрасте от 28 до 34 лет, показало, что у неё были хорошо развиты места прикрепления мышц в верхней части тела.

Аналогичные изменения костей у её сестры Итауэрет также свидетельствуют о многолетнем увлечении стрельбой из лука. Особенности развития верхних конечностей у всех сестёр указывают на регулярные интенсивные нагрузки, связанные с удержанием тяжёлого оружия и натяжением тетивы.

Это объясняет наличие луков, стрел и булавы в гробницах этих женщин. Эти предметы были не просто символическими дарами, а инструментами, которыми они действительно пользовались.

Несмотря на высокое положение, принцессы подвергались различным травмам и заболеваниям. У Итауэрет обнаружены зажившие переломы рёбер и стопы, а у нескольких аристократок выявлены признаки инфекций и нехватки питательных веществ.

Кроме того, учёные нашли редкие патологии позвоночника, которые могут указывать на близкородственные связи внутри династии.

Московский комсомолец

Эректильная дисфункция предупреждает о проблемах
Эректильная дисфункция может сигнализировать о скрытых сердечно-сосудистых и обменных нарушениях, которые могут проявляться за несколько лет до постановки диагноза.

Специалисты опубликовали обзор в журнале Frontiers in Clinical Diabetes and Healthcare (FCDH), где поделились выводами. Эректильная дисфункция тесно связана с заболеваниями сердца, сахарным диабетом 2-го типа и другими хроническими нарушениями.

Метаанализ семи когортных исследований показал, что у мужчин с эректильной дисфункцией риск сердечно-сосудистых заболеваний примерно на 40 процентов выше, чем у тех, кто не сталкивался с этой проблемой. Симптомы могут появляться раньше, чем развивается сама болезнь.

Исследователи объясняют это тем, что эрекция во многом зависит от состояния сосудов. Повреждение сосудистой стенки, хроническое воспаление, окислительный стресс, инсулинорезистентность и гормональные нарушения могут способствовать развитию как эректильной дисфункции, так и сердечно-сосудистых заболеваний.

Аналогичная связь прослеживается и при сахарном диабете, где эректильная дисфункция может стать одним из первых клинических проявлений. Авторы подчёркивают, что эректильная дисфункция сама по себе не вызывает болезни сердца или диабет и не является окончательным диагностическим признаком.

Однако появление этой проблемы должно стать поводом для обследования сердечно-сосудистой системы и обмена веществ.

Лента ру

Нейросеть
Связь ожирения с раком выявили учёные
Избыточный вес может стать причиной более чем 11% случаев рака, что значительно больше, чем предполагалось ранее.

Такой вывод сделали исследователи, опубликовавшие результаты своей работы в журнале Cancer Communications (CC). В ходе исследования учёные изучили данные 458 543 участников проекта UK Biobank, за которыми наблюдали почти 12 лет.

За этот период было зарегистрировано свыше 50 тысяч случаев онкологических заболеваний. Авторы работы учитывали не только индекс массы тела, но и такие показатели, как окружность талии и соотношение талии к бёдрам.

Эти параметры точнее отражают количество жировой ткани в организме. Кроме того, исследователи скорректировали анализ с учётом того, что многие опухоли вызывают непреднамеренную потерю веса за несколько лет до постановки диагноза.

Это могло привести к тому, что связь между ожирением и раком казалась слабее, чем есть на самом деле. После учёта этих факторов доля случаев рака, связанных с избыточным весом, увеличилась с 5,5% до 11,5%.

По словам авторов, полученные результаты свидетельствуют о том, что профилактика и лечение ожирения могут играть более важную роль в предотвращении онкологических заболеваний, чем считалось ранее. Наиболее выраженная связь между избытком жировой ткани и риском развития рака наблюдалась у женщин и людей младше 60 лет.

Ранее учёные выяснили, что кетодиета может повышать риск развития рака тонкой кишки.

Лента ру

Сфотографировали уникальную рыбу Winteria telescopa
Научно-исследовательское судно «Фалкор» при поддержке Океанографического института Шмидта стало площадкой для исторической экспедиции.

Впервые удалось запечатлеть рыбу Winteria telescopa в естественной среде обитания. Этот вид отличается прозрачным черепом, через который видны зелёные трубчатые глаза.

Ранее биологи могли изучать только сильно повреждённые экземпляры. Когда такие рыбы случайно попадали в глубоководные тралы и поднимались на поверхность, перепад давления разрушал прозрачную оболочку головы.

Это делало невозможным полноценное исследование их анатомии. Снятые кадры позволили учёным подтвердить гипотезу о том, что зрительные органы Winteria telescopa могут вращаться внутри черепа.

Это уникальное свойство помогает рыбе направлять взгляд вперёд и вверх, что важно для поиска добычи и обнаружения хищников в условиях почти полной темноты. Рыба прекрасно адаптировалась к экстремальным условиям глубоководья, где высокое давление и нет солнечного света.

Во время погружения в зоне гидротермальных источников исследователи также зафиксировали скопления актиний, крабов и тысяч слепых креветок вида Rimicaris.

Московский комсомолец

Другие новости