Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Кофе улучшает настроение и расслабляет мозг
Учёные провели исследование, в котором изучили, как аромат кофе влияет на психологическое и физиологическое состояние людей.

В эксперименте участвовали 20 здоровых человек в возрасте от 20 до 29 лет. В течение пяти минут они вдыхали запах кофе, а исследователи до и после этого оценивали их настроение, регистрировали электрическую активность мозга с помощью ЭЭГ, а также измеряли частоту сердечных сокращений и вариабельность сердечного ритма.

Результаты работы опубликованы в Nutrients. После вдыхания аромата кофе у участников эксперимента улучшилось настроение: снизились усталость, тревожность, напряжение, растерянность и подавленность.

Данные ЭЭГ показали повышение индекса, связанного с расслаблением. Существенных изменений частоты сердечных сокращений и вариабельности сердечного ритма учёные не обнаружили.

Авторы исследования считают, что даже кратковременное воздействие аромата кофе может улучшать эмоциональное состояние и изменять активность мозга. Ранее учёные выяснили, что потребление кофеина в большинстве случаев не увеличивает риск проблем с сердцем.

Лента ру

Алкоголь повышает риск выкидыша
Учёные выяснили, что употребление алкоголя на ранних сроках беременности связано с повышением риска выкидыша.

Даже небольшие дозы спиртного могут негативно влиять на беременность. Исследование опубликовано в журнале Nutrients.

Работа проводилась в Нидерландах. В ней участвовали 3225 женщин и их партнёры.

Для анализа риска выкидыша учёные использовали данные о 2465 беременностях. Участницы сообщали, сколько алкоголя они употребляли до зачатия и на ранних сроках беременности.

Выкидышем считали самопроизвольную потерю беременности до 22-й недели. У женщин, которые употребляли менее одного бокала алкоголя в неделю на ранних сроках, вероятность выкидыша была примерно в два раза выше, чем у тех, кто полностью отказался от спиртного.

При употреблении одного и более бокалов в неделю риск выкидыша увеличивался примерно в 2,4 раза. Эпизодическое употребление большого количества алкоголя также было связано с ростом вероятности выкидыша примерно на 52%.

У мужчин связи между употреблением алкоголя и риском выкидыша или бесплодия учёные не обнаружили. Авторы предполагают, что алкоголь может повышать риск выкидыша за счёт прямого воздействия на эмбрион.

Этанол проходит через плаценту и может усиливать окислительный стресс и гибель клеток в период активного формирования органов. Ранее учёные выяснили, что смертность от связанных с употреблением алкоголя случаев рака увеличилась вдвое.

Лента ру

Улучшает ли томатная паста работу мозга
В журнале Antioxidants опубликовали результаты исследования учёных, которые выяснили, что регулярное употребление томатной пасты в течение трёх месяцев может положительно влиять на когнитивные функции и работу мозга.

В эксперименте участвовали 42 здоровых человека среднего возраста. Их разделили на два периода: в одном они ежедневно употребляли по 35 граммов томатной пасты, в другом — придерживались рациона с низким содержанием ликопина, антиоксиданта, которым особенно богаты красные помидоры.

После каждого этапа учёные оценивали когнитивные способности участников и анализировали показатели крови. Выяснилось, что после употребления томатной пасты участники лучше справлялись с заданиями на избирательное внимание и показали небольшое улучшение ассоциативной памяти.

Уровень ликопина в крови заметно вырос. Кроме того, у части добровольцев сканирование мозга выявило изменения связей между нейронными сетями.

Авторы исследования связывают это с возможной перестройкой и более эффективной работой мозга. Учёные предполагают, что одним из объяснений может быть ликопин, который способен проникать через защитный барьер между кровью и мозгом и обладает антиоксидантными свойствами.

Однако результаты требуют подтверждения в более масштабных исследованиях. Ранее учёные выяснили, что продукты, богатые каротиноидами и витамином А, могут снижать риск рака желудка.

Лента ру

Ускоряет риск инсульта
Исследователи, чья статья опубликована в журнале Frontiers in Nutrition, выяснили, что ускоренное биологическое старение организма связано с повышенным риском инсульта.

При этом не имеет значения, насколько качественно питается человек. Учёные проанализировали данные более 422 тысяч человек из британского UK Biobank и американского исследования NHANES, а также 312 пациентов китайской больницы.

Для расчёта биологического возраста использовали показатель PhenoAge. Он учитывает реальный возраст человека и девять показателей крови.

За участниками UK Biobank наблюдали в среднем около 16 лет. За это время инсульт произошёл у 11 345 человек.

Выяснилось, что каждый дополнительный год, на который биологический возраст опережал реальный, был связан примерно с 6 процентами более высокого риска инсульта. В британской выборке эта закономерность наблюдалась для ишемического инсульта, который возникает из-за нарушения кровоснабжения мозга, но не для геморрагического.

Более здоровое питание было связано с замедлением биологического старения примерно на 0,7 года. Однако учёт рациона лишь незначительно ослаблял связь между ускоренным старением и инсультом.

Авторы считают, что результаты показывают: темпы биологического старения могут отражать изменения в организме, которые связаны со здоровьем сосудов и риском инсульта. Эти изменения нельзя объяснить только качеством питания.

Ранее учёные выяснили, что здоровый сон связан с более низким риском инсульта.

Лента ру

Другие новости