Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Триптолид блокирует фермент раковых клеток
Учёные из Университета Джонса Хопкинса выяснили, что природное вещество триптолид может усиливать действие противоопухолевых препаратов и помогать бороться с устойчивостью раковых клеток к лечению.

Результаты их исследования опубликованы в журнале Nature Communications. Триптолид — это соединение, которое содержится в растении Tripterygium wilfordii, используемом в традиционной китайской медицине.

Исследователи проверили его действие на раковых клетках в лаборатории и в экспериментах на животных. Оказалось, что триптолид блокирует фермент DCTPP1, который помогает опухолевым клеткам защищаться от некоторых противораковых лекарств.

Этот фермент разрушает активную форму препаратов до того, как они успевают подействовать. Учёные изучили сочетание триптолида с децитабином — препаратом, который способен восстанавливать активность генов, подавляющих рост опухолей.

При совместном применении веществ децитабин более эффективно воздействовал на раковые клетки и усиливал их гибель. Исследователи также установили, что повышенная активность DCTPP1 связана с устойчивостью опухолевых клеток к лечению.

Это делает фермент перспективной мишенью для разработки новых противораковых средств. Авторы считают, что полученные результаты могут помочь повысить эффективность существующих препаратов, в том числе против опухолей, которые плохо поддаются такой терапии.

Однако безопасность и эффективность нового подхода для человека ещё предстоит проверить.

Лента ру

Компания Beget восстанавливает данные после сбоя
В компании Beget сообщили, что у них есть доступ к файловым резервным копиям большинства ресурсов виртуального хостинга и облачной инфраструктуры.

Они продолжают восстанавливать данные, но из-за больших объёмов этот процесс займёт много времени. Beget — один из крупнейших хостинг-провайдеров и регистраторов доменов в России.

На его серверах размещено более 330 тысяч активных сайтов в зонах .ru, .

рф и .su.

Компания обслуживает более 200 тысяч клиентов, а общее число пользователей превышает 1,5 млн. Сбой затронул не только мелкие сайты.

Во время инцидента был недоступен сайт национальной системы маркировки «Честный знак» — пользователи не могли открыть страницу и войти в личный кабинет. Также наблюдались перебои в работе сервисов, связанных с «Битрикс», портала космической погоды Лаборатории солнечной астрономии и ряда региональных медиа.

Игорь Бедеров, эксперт по кибербезопасности, председатель совета по противодействию технологическим правонарушениям, отметил, что инцидент показал, как много сервисов может пострадать одномоментно. Для пользователей это выглядит так: интернет работает, но нужный сайт не открывается, письма не приходят, приложение не отвечает.

Бизнес теряет заказы и несёт убытки. По его словам, массовый сбой может возникнуть даже без уничтожения самих сайтов: если перестаёт работать система DNS, сайт может оставаться целым, но посетители до него не доберутся.

Когда от одного повреждённого компонента зависят другие, проблемы распространяются дальше. Участие искусственного интеллекта (ИИ) в атаке на Beget пока не подтверждено.

Масштаб и скорость сбоя сами по себе этого не доказывают. Антон Бочкарёв, эксперт по кибербезопасности 3side и 4sec, белый хакер, рассказал, что любой взлом системы могут допустить везде.

Всюду может быть слабое место — абсолютно любую компанию, независимо от её размера, можно взломать. Бочкарёв отметил, что ИИ не даёт злоумышленникам суперпреимущества, но снижает количество ресурсов, которые требуются на взлом.

Это значит, что попыток будет больше. Атакующих станет больше: если раньше один злоумышленник использовал отдельные инструменты, то сейчас он как бы мультиплицируется.

Нейросети для атакующих — это множитель, который позволяет одному человеку делать больше, атаковать лучше. Компании придётся больше вкладываться в кибербезопасность.

Придётся ставить защитников тоже на базе нейросетей, которые будут достаточно быстры и соответствовали вызовам, которые дают атакующие нейросети, — чтобы просто успевать. И, соответственно, быстрее править уязвимости, потому что сейчас их действительно становится больше.

Московский комсомолец

Постбиотики защищают печень от алкоголя
Учёные, опубликовавшие свои выводы в журнале Food & Function (F&F), обнаружили, что вещества, полученные из полезных бактерий, могут снижать повреждения печени, вызванные алкоголем.

В исследовании рассматривались постбиотики — компоненты инактивированных бактерий, которые могут оказывать положительное воздействие на организм. В эксперименте использовались бактерии Latilactobacillus curvatus, предварительно обработанные высокой температурой, и две модели алкогольного поражения печени у мышей.

Результаты показали, что введение постбиотиков уменьшало повреждение клеток печени, накопление жира, воспаление и окислительный стресс. Одновременно улучшались показатели жирового обмена.

Дополнительный анализ выявил, что защитный эффект связан с изменениями в кишечнике. Постбиотики восстанавливали кишечный барьер, препятствующий проникновению вредных веществ, и способствовали росту полезных бактерий.

При этом количество некоторых потенциально опасных микроорганизмов, включая грибок Candida albicans, снижалось. Исследователи также обнаружили активацию иммунных механизмов кишечника, которые помогают поддерживать его защитные функции.

Предполагается, что именно через взаимодействие кишечника и печени постбиотики уменьшают последствия воздействия алкоголя. Авторы считают, что результаты открывают возможности для разработки новых средств против алкогольного поражения печени.

Однако эффективность такого подхода пока показана только на животных. Ранее учёные выяснили, что потребление ультрапереработанных продуктов повышает риск жировой болезни печени.

Лента ру

Извержение изменило жизнь людей
Примерно в 5250 году до нашей эры, около 7300 лет назад, у юго-западного побережья Японии произошла серия взрывов, в результате которых из недр морского дна было выброшено огромное количество магмы и вулканического материала.

Для сообщества Дзёмон это событие, должно быть, стало катастрофой непостижимых масштабов. По индексу вулканической активности оно получило 7 баллов из 8 и относится к разряду событий, которые происходят раз в 500–1000 лет.

С тех пор как в 1970-х годах были впервые обнаружены свидетельства этого извержения, эксперты спорили о его последствиях. Учёные сошлись во мнении, что ущерб был значительным, но неясно, смогли ли окружающие сообщества восстановиться и в какой степени в последующие годы.

Международная группа исследователей более внимательно изучила последствия извержения вулкана Кикаи-Акахоя. Они обнаружили, что по крайней мере в некоторых районах люди оказались более изобретательными и способными к адаптации, чем считалось ранее.

Археолог Питер Джордан поясняет: «Это извержение, должно быть, было разрушительным, поскольку оно вырвалось на поверхность морского дна без предупреждения. На японские острова обрушились мощные землетрясения и огромные цунами, а затем ландшафт покрылся многометровым слоем вулканического пепла».

Исследователи изучили 540 существующих археологических образцов, собранных по всей Японии, датированных периодом от 8000 до 6500 лет назад, за несколько сотен лет до и после извержения вулкана. Проследив, сколько находок, датированных радиоуглеродным методом, таких как древесный уголь или кости, было найдено до и после извержения в каждом регионе, они смогли оценить активность населения.

Археолог Энрико Крема рассказывает: «Катастрофа привела к многочисленным человеческим жертвам. Однако выжившие мигрировали, наладили новые социальные отношения, внедрили новые виды экономики и, похоже, нашли творческие способы существования, а затем и процветания в новых условиях после стихийного бедствия».

В некоторых более отдалённых районах Японии, таких как окрестности залива Исэ, где численность населения увеличивалась, этот рост прекратился, а в некоторых районах даже сократился. Команда считает, что это может быть связано с кратковременным похолоданием, вызванным извержением вулкана, или с ещё не выявленным эффектом изменения климата, или же с потерей источников пищи.

Результаты исследования дают лучшее представление о том, как человечество может реагировать на стихийные бедствия и как глубоко копать, чтобы выжить. «Это исследование помогает глубже понять возможные способы, с помощью которых культуры и общества справляются с внезапными потрясениями и катастрофами», — заключает Джордан.

Московский комсомолец

Другие новости