Điều gì sẽ xảy ra khi máy móc bắt đầu nâng cấp chính nó mà không chờ đợi chúng ta? Nếu sức mạnh tính toán tiếp tục thúc đẩy công nghệ tiến lên một cách tự động, và những lợi ích đó được chuyển hướng trở lại để xây dựng những hệ thống mạnh mẽ hơn, chúng ta đang nhìn vào một vòng lặp tích lũy tài sản có thể diễn ra nhanh hơn bất kỳ điều gì chúng ta đã chứng kiến trước đây. Phần đáng sợ? Chu trình phản hồi gia tăng—nhiều sức mạnh tạo ra nhiều tiến bộ hơn, điều này lại cấp vốn cho nhiều sức mạnh hơn. Đây không còn là khoa học viễn tưởng nữa; đó là quỹ đạo mà chúng ta đã đi trên đó.