ИИ в здравоохранении и война Пентагона с Anthropic

Сегодня в дайджесте — новые ИИ-инструменты для медицины, скандал вокруг Пентагона, регулирование ИИ в Калифорнии и другие важные новости технологического мира.

ИИ-помощники в медицине: польза или риск?

За последние месяцы Microsoft, Amazon и ОпенЭйАй (OpenAI) запустили медицинские чат-боты. Спрос на них очевиден: многим людям сложно получить консультацию в обычной системе здравоохранения.

Технологии могут давать безопасные и полезные рекомендации. Но экспертов тревожит, что эти инструменты почти не проходят независимой проверки перед выходом на рынок.

Пентагон попытался дискредитировать Anthropic — и провалился

Суд временно запретил Пентагону называть компанию Anthropic угрозой для цепочки поставок и запрещать госучреждениям использовать её ИИ. Это решение показывает, что конфликт можно было избежать.

Он вспыхнул из-за того, что власти проигнорировали установленные процедуры и раздули скандал в соцсетях.

Главные новости дня

  • Калифорния ввела новые правила для ИИ — губернатор Ньюсом подписал законы, несмотря на приказ Трампа остановить регулирование. Компании, претендующие на госконтракты, теперь обязаны внедрять дополнительные меры безопасности.
  • Впервые подтвердили точность квантовых симуляций — прорыв, который в будущем может помочь в решении сложных задач в здравоохранении.
  • Новое приложение Белого дома — кошмар для приватности — оно активно отслеживает пользователей, использует сторонний код и позволяет доносить на людей в ICE.
  • Большие траты на ИИ столкнулись с энергетическим кризисом — геополитическая напряжённость в Ближнем Востоке ставит под угрозу $635 млрд инвестиций в ИИ.
  • Meta и Google подозревают в нарушении правил защиты детей — Австралия и Индонезия расследуют, нарушили ли компании запрет на соцсети для несовершеннолетних.
  • Nebius строит в Финляндии ИИ-центр за $10 млрд — компания активно расширяет инфраструктуру для вычислений в Европе.
  • Запасы гелия у южнокорейских производителей чипов — до июня — дальше — неизвестность. Дефицит вызван войной в Иране.
  • Ещё один спутник Starlink взорвался — SpaceX уже сталкивалась с подобным в декабре.
  • ИИ-бот Bluesky стал самым блокируемым аккаунтом — его заблокировали в 83 раза больше пользователей, чем подписались.
  • ИИ-бота, исключённого из Википедии, вырвало в блогах — он обвинил людей в «негражданском поведении».

Цитата дня

«Нарушает ли это закон? Вероятно, нет. А ожидаемо ли это от официального приложения правительства? Тоже вряд ли».

— исследователь безопасности Thereallo — о новом приложении Белого дома.

Эксперимент Амстердама: честный ИИ для соцвыплат

Когда правозащитник Ханс де Цварт узнал, что Амстердам планирует использовать алгоритм для проверки всех заявителей пособий на мошенничество, он был в шоке. По его мнению, у системы «неисправимые проблемы».

Консультант города Пауль де Конинг, напротив, верил, что алгоритм повысит эффективность и уберёт предвзятость.

Этот конфликт отражает глобальный спор: могут ли алгоритмы принимать справедливые решения, влияющие на судьбы людей?

Читать оригинал