На AI Startup School в Сан-Франциско Илон Маск выступил с докладом Digital Superintelligence, Multiplanetary Life, How to Be Useful. Ниже собраны основные тезисы выступления. Это позиция Маска, а не прогноз редакции.

Риск

Маск вспомнил, как в 1995 году отказался от аспирантуры в Стэнфорде ради интернет-компании. Он также рассказал о трёх неудачных запусках Falcon 1 и четвёртом запуске, после которого проект продолжил работу.

Его вывод прост. Значимый проект требует принятия риска, но риск сам по себе не гарантирует результат.

Проверка исходных предпосылок

В разработке ИИ Маск ставит точность исходных данных и целей выше удобного компромисса. Если система оптимизирует ошибочную цель, рост её возможностей только увеличит последствия ошибки.

Тот же принцип он применяет к инженерным задачам. Вместо ссылки на привычную цену ракеты нужно разложить её на материалы, производство и оборудование, а затем проверить стоимость каждого элемента.

Польза и обратная связь

Маск предложил оценивать работу через пользу для одного человека и число людей, которых она затрагивает. Популярность без полезного результата в такую оценку не входит.

Он также сравнил критику с обратной связью при обучении модели. Если руководитель её игнорирует, он теряет возможность исправить ошибку.

Личная работа с деталями

По словам Маска, руководителю иногда стоит самому заняться технической работой. Так он быстрее видит реальные ограничения продукта и показывает команде, что задача действительно важна.

Прогноз о сверхинтеллекте

Маск заявил, что цифровой сверхинтеллект может появиться в 2025 или 2026 году. Он ожидает несколько конкурирующих систем и большие изменения в экономике и науке.

Срок уже можно проверять по фактам, а не по уверенности спикера. Прогнозы о развитии ИИ часто ошибаются, поэтому полезнее отделять их от инженерных рекомендаций, которые можно применить сегодня.