Представляем The Anthropic Institute

Мы запускаем The Anthropic Institute — новую инициативу, призванную решать наиболее значимые проблемы, которые мощный ИИ создаёт для наших обществ. Институт будет опираться на исследования всей компании Anthropic, чтобы предоставлять информацию другим исследователям и широкой аудитории в период перехода к миру с существенно более мощными ИИ-системами.

За пять лет с момента основания Anthropic прогресс в области ИИ шёл невероятно быстро. Нам потребовалось два года, чтобы выпустить первую коммерческую модель, и ещё три — чтобы разработать модели, способные обнаруживать критические уязвимости в кибербезопасности, выполнять широкий спектр реальных задач и даже начать ускорять темп самого развития ИИ.

Мы прогнозируем, что в ближайшие два года прогресс будет ещё более драматичным. Одно из ключевых убеждений нашей компании состоит в том, что развитие ИИ ускоряется: улучшения накапливаются со временем. Именно поэтому чрезвычайно мощный ИИ — такой, какой описывает наш CEO Дарио Амодеи в эссе Machines of Loving Grace, — придёт значительно раньше, чем многие думают.

Если это так, обществу в ближайшее время предстоит столкнуться со множеством масштабных вызовов. Как мощные ИИ-системы изменят рынок труда и экономику? Какие возможности для повышения устойчивости общества они откроют? Какие угрозы усилят или создадут? Каковы «ценности» ИИ-систем и как общество поможет компаниям определить, какими они должны быть? И если рекурсивное самосовершенствование ИИ-систем всё же начнётся — кто в мире должен об этом знать и как следует управлять этими системами?

Цель The Anthropic Institute — рассказывать миру о том, что мы узнаём об этих вызовах в процессе создания передовых ИИ-систем, и взаимодействовать с внешней аудиторией, чтобы помочь справиться с рисками, которые необходимо преодолеть. От того, сможет ли наше общество это сделать, зависит, принесёт ли трансформирующий ИИ те радикальные преимущества, которые мы считаем возможными в науке, экономическом развитии и расширении человеческих возможностей.

Институт возглавляет наш сооснователь Джек Кларк, который берёт на себя новую роль — Head of Public Benefit в Anthropic. В его команде работают специалисты разных дисциплин: инженеры по машинному обучению, экономисты и социологи. Институт объединяет и расширяет три исследовательских направления Anthropic:

• Frontier Red Team — тестирует ИИ-системы на пределе их возможностей, чтобы понять крайние границы текущих способностей;
• Societal Impacts — изучает, как ИИ применяется в реальном мире;
• Economic Research — отслеживает влияние ИИ на рынок труда и экономику в целом.

Институт также будет инкубировать новые команды и в настоящее время работает над направлениями, связанными с прогнозированием развития ИИ и изучением того, как мощный ИИ будет взаимодействовать с правовой системой.

Институт занимает уникальную позицию: он имеет доступ к информации, которой располагают только создатели передовых ИИ-систем. Институт будет использовать это преимущество в полной мере, открыто рассказывая о том, что мы узнаём о природе создаваемых технологий. При этом Институт — это улица с двусторонним движением. Он будет взаимодействовать с работниками и отраслями, столкнувшимися с вытеснением, а также с людьми и сообществами, которые ощущают давление будущего, но не знают, как на него реагировать. Полученные знания будут определять, что изучает Институт и как компания в целом принимает решения о своих действиях.

The Anthropic Institute объявляет о нескольких ключевых назначениях:

• Мэтт Ботвиник — приглашённый научный сотрудник Юридической школы Йельского университета, ранее занимавший должность старшего директора по исследованиям в Google DeepMind и профессора нейронных вычислений в Принстоне, — присоединяется к Институту, чтобы возглавить направление по ИИ и верховенству закона.

• Антон Коринек — в отпуске с должности профессора экономики Университета Вирджинии — присоединяется к команде Economic Research, чтобы возглавить исследование того, как трансформирующий ИИ может изменить саму природу экономической деятельности.

• Зоэ Хитциг, ранее изучавшая социальные и экономические последствия ИИ в OpenAI, присоединяется к команде, чтобы связать экономические исследования с обучением и разработкой моделей.

Мы также продолжаем набор сотрудников. The Anthropic Institute формирует небольшую аналитическую команду, которая будет объединять различные части нашей исследовательской повестки и доносить нашу работу до широкой аудитории. Подробнее можно узнать здесь.

Расширение команды Public Policy в Anthropic

Параллельно с запуском The Anthropic Institute мы расширяем направление Public Policy.

Public Policy сосредоточено на областях, где у Anthropic есть чёткие приоритеты и позиции: безопасность и прозрачность моделей, защита потребителей энергии, инфраструктурные инвестиции, экспортный контроль и демократическое лидерство в сфере ИИ. Сара Хек, присоединившаяся к Anthropic в качестве Head of External Affairs, возглавит эту команду в роли Head of Public Policy. До Anthropic Сара руководила направлением предпринимательства в Stripe и ранее возглавляла политику в области глобального предпринимательства и публичной дипломатии в Совете национальной безопасности Белого дома.

Мы расширяем команду Public Policy, чтобы участвовать в формировании регулирования ИИ по всему миру. Этой весной мы открываем первый офис в Вашингтоне и активно расширяем глобальное присутствие в сфере политики. Актуальные вакансии доступны здесь.

Связанные материалы

Представляем Claude Design от Anthropic Labs

Сегодня мы запускаем Claude Design — новый продукт Anthropic Labs, который позволяет совместно с Claude создавать качественные визуальные материалы: дизайн, прототипы, презентации, одностраничники и многое другое.

Представляем Claude Opus 4.7

Наша последняя модель Opus обеспечивает более высокую производительность в задачах программирования, работы с агентами, обработки изображений и многошаговых задачах, демонстрируя большую тщательность и стабильность в наиболее важных сценариях.

Long-Term Benefit Trust компании Anthropic назначает Васа Нарасимхана в совет директоров