Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Нейросеть
Изучи влияние эмоций на диабет
Учёные изучили данные 438 взрослых с сахарным диабетом и пришли к выводу, что эмоциональное отношение к заболеванию может оказывать более сильное влияние на состояние людей, чем объективная тяжесть болезни.

Результаты исследования опубликованы в журнале Frontiers in Medicine. Выяснилось, что в развитие диабетического дистресса наибольший вклад вносят тревога, страх перед болезнью и склонность преувеличивать возможные последствия симптомов.

При этом восприятие тяжести заболевания не связано с уровнем психологического стресса. Были выделены три группы пациентов: с низкой, умеренной и высокой психологической нагрузкой.

Наибольший риск выраженного дистресса наблюдался у людей с длительным течением диабета и уже развившимися осложнениями. Авторы исследования считают, что пациентам с диабетом важно уделять внимание не только контролю уровня сахара в крови, но и своему психологическому состоянию.

Работа с тревогой и негативными мыслями о болезни может помочь улучшить качество жизни и облегчить повседневное управление заболеванием.

Лента ру

Нейросеть
Согласовывайте контакты с внеземными цивилизациями
Учёным рекомендуется согласовывать с ООН содержание ответов внеземным цивилизациям, как заявила Международная академия астронавтики (IAA).

В пресс-релизе академии отмечается, что решение об ответе на сигнал от разумной жизни за пределами Земли должно быть принято всем человечеством. Поэтому перед передачей сообщений необходимо проводить международные консультации, особенно через такие организации, как ООН, представляющие разнообразные интересы.

Это положение стало одним из ключевых в обновлённой декларации принципов по проведению астрономического поиска внеземного разума, принятой в 2026 году. Ранее астроном из Оксфордского университета в Великобритании Брайан Лаки рассказал о способах обнаружения древней инопланетной цивилизации.

Лента ру

Астронавты завершили выход в космос
Астронавты Кристофер Уильямс и Джессика Меир успешно завершили работу в открытом космосе, проведя за пределами Международной космической станции 7,5 часов.

Их миссия заключалась в ремонте канадского дистанционного манипулятора Canadarm2. NASA сообщило, что экипаж демонтировал и заменил неисправный запястный шарнир роботизированной руки.

Решение о проведении работ было принято совместно NASA и Канадским космическим агентством после того, как в конце мая на манипуляторе зафиксировали повышенный ток двигателя. В космическом агентстве подчеркнули, что подобные процедуры являются стандартной практикой для оборудования, которое эксплуатируется уже более четверти века.

Снятый с МКС шарнир отправят на Землю для детального анализа и последующего ремонта, а при необходимости — для возвращения в строй. Для Кристофера Уильямса этот выход стал вторым в карьере, а для Джессики Меир — пятым.

Миссия по обслуживанию и модернизации МКС под номером 280 стала очередной в истории орбитальной станции.

Московский комсомолец

Солнце вспыхнуло классом X
В ночь на 30 июня 2023 года на поверхности Солнца произошла вспышка самого высокого класса — X.

Об этом стало известно из сообщения лаборатории солнечной астрономии ИКИ РАН и ИСЗФ СО РАН в телеграм-канале. Учёные подчеркнули, что это событие имеет большое значение для наблюдений за солнечной активностью.

Вспышка была зафиксирована почти в полночь, что вызвало интерес у специалистов и любителей астрономии. За день до этого, 29 июня, наблюдались три вспышки класса M, которые также указывали на высокую активность Солнца.

Солнечные вспышки классифицируются по мощности рентгеновского излучения на пять классов: A, B, C, M и X. Класс A0.

0 соответствует минимальной мощности излучения в 10 нановатт на квадратный метр, а с переходом к следующему классу мощность увеличивается в десять раз. Солнечные вспышки могут сопровождаться выбросами солнечной плазмы, которые, достигая Земли, могут вызывать магнитные бури.

Такие явления способны влиять на спутниковую связь и электросети. Учёные продолжают следить за солнечной активностью и предупреждают о возможных последствиях выбросов солнечной плазмы.

Подобные вспышки являются частью естественного цикла активности Солнца и могут повторяться с разной интенсивностью. Автор текста — Олег Тимофеев.

Московский комсомолец

Другие новости