Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Тираннозавр поддерживал температуру тела
Учёные выяснили, что тираннозавр был теплокровным животным.

Температура его тела почти не отличалась от человеческой. Для исследования специалисты использовали три зуба тираннозавров, найденные в американском штате Монтана.

Два зуба принадлежали молодому взрослому динозавру по имени Томас. Третий зуб — фрагмент зуба другой особи, обнаруженной в том же районе.

Учёные изучили соотношение изотопов углерода и кислорода в эмали зубов. Химический состав эмали формируется при температуре тела животного и сохраняет эту информацию на протяжении миллионов лет.

Благодаря этому зуб фактически превращается в природный термометр. Расчёты показали, что температура тела тираннозавра составляла около 36,3 градуса.

Возможная погрешность достигает 2,5 градуса. Для сравнения исследователи проанализировали пять зубов древних крокодилоподобных животных из той же геологической формации.

Их температура оказалась заметно ниже — примерно 30,9 градуса, что соответствует показателям современных крокодилов. Полученные результаты опровергают устаревшее представление о тираннозавре как о медлительной рептилии, полностью зависевшей от солнечного тепла.

Хищник мог самостоятельно поддерживать температуру тела и сохранять активность независимо от погоды. Теплокровность давала динозавру выносливость, позволяла дольше передвигаться, охотиться и переносить холодный климат.

Ископаемые останки тираннозавров находили не только на территории современных южных штатов США, но и значительно севернее — в Канаде. Высокая активность имела свою цену.

Теплокровному организму требуется гораздо больше энергии, поэтому тираннозавру приходилось добывать значительные объёмы пищи. По мнению исследователей, он мог вести более активную охоту, чем предполагалось прежде.

Полученный показатель находится у нижней границы температурного диапазона современных теплокровных животных. Он приближает тираннозавра не к крокодилам и другим холоднокровным рептилиям, а к крупным млекопитающим и птицам.

Исследование опубликовано в журнале Science Advances (SA). Авторы считают, что результаты потребуют пересмотреть представления об обмене веществ, поведении и образе жизни одного из наиболее известных хищников в истории Земли.

Московский комсомолец

Кокосовое масло защищает мозг при стрессе
В научном журнале Frontiers in Nutrition были опубликованы результаты эксперимента, в котором изучалось влияние кокосового масла первого отжима на мозг крыс при хроническом стрессе.

Оказалось, что масло помогает защитить мозг от изменений, связанных со стрессом. У животных, получавших кокосовое масло, улучшились память и пространственное обучение, снизились тревожность и потеря интереса к вознаграждению.

Эксперимент проводился на взрослых самцах крыс. Их подвергали хроническому стрессу, ограничивая движения, а кокосовое масло давали в разное время: до начала стрессового воздействия, одновременно с ним или после.

Это позволило определить, когда продукт оказывает наиболее выраженный эффект. У крыс, получавших кокосовое масло, снизился уровень гормона стресса кортикостерона, уменьшились показатели окислительного повреждения, восстановилась антиоксидантная защита.

Анализ тканей показал, что масло помогает сохранять нормальное состояние нейронов гиппокампа — области мозга, важной для обучения и памяти. Наиболее выраженный защитный эффект наблюдался, когда кокосовое масло начинали давать до воздействия хронического стресса.

Авторы исследования предполагают, что это может быть связано с содержащимися в масле жирными кислотами со средней длиной цепи, в частности каприловой кислотой, а также полифенолами и антиоксидантами.

Лента ру

Шоколад и здоровье: связь обнаружена
Учёные из Университетской больницы Саламанки выяснили, что регулярное употребление шоколада может быть связано с более благоприятными показателями уровня сахара в крови у людей с диабетом.

В журнале Nutrients опубликовано исследование, в котором приняли участие 1960 взрослых. Учёные изучали, как употребление тёмного и молочного шоколада связано с уровнем глюкозы и холестерина, гликированного гемоглобина (HbA1c), индексом массы тела, окружностью талии и артериальным давлением.

Около 30 процентов участников сообщили о регулярном или периодическом употреблении шоколада. У людей с диабетом употребление тёмного шоколада было связано с более низкими уровнями глюкозы натощак и HbA1c — показателя, отражающего средний уровень сахара в крови за последние несколько месяцев.

Молочный шоколад также был связан с более низким HbA1c. У людей без диабета подобных связей не обнаружили.

Кроме того, употребление как тёмного, так и молочного шоколада было связано с более низким индексом массы тела. Однако тёмный шоколад одновременно оказался связан с более высоким уровнем «плохого» LDL-холестерина.

Авторы исследования подчёркивают, что результаты не означают, что шоколад можно использовать для лечения диабета. Исследование проводилось в один момент времени и выявило только статистические связи.

Лента ру

NASA нашло на Луне крупнейший кратер
В 2025 году межпланетная станция Lunar Reconnaissance Orbiter обнаружила на Луне крупнейший из современных ударных кратеров, известных в Солнечной системе.

Об этом стало известно из публикации в журнале Science Advances. По результатам исследования выяснилось, что кратер появился после того, как Луна столкнулась с астероидом или кометой.

Подобные масштабные события, как показывают модели, случаются примерно раз в 132 года. Столкновение, о котором идёт речь, произошло весной 2024 года.

NASA уточняет, что размер космического тела был сопоставим с размером трёх-шестиэтажного здания. Диаметр кратера составляет 222 метра, а глубина — около 42 метров.

Кратер назвали McGetchin в честь американского учёного Томаса МакГетчина. Исследователи подчёркивают, что обнаружение таких относительно свежих ударных структур помогает изучать частоту крупных столкновений небесных тел с поверхностью Луны.

Московский комсомолец

Другие новости