Phần cứng chuyên dụng của Microsoft để tính toán AI được gọi là Brainwave và được tạo ra theo cách chạy mạng thần kinh nhanh nhất có thể với độ trễ tối thiểu.

Công ty đã thông báo rằng kể từ khi sử dụng Brainwave, công ty đã đạt được hiệu suất nhanh hơn gấp mười lần từ AI của Bing. Mô hình học máy về cơ bản cung cấp năng lượng cho chức năng của công cụ tìm kiếm.

Mục tiêu của Microsoft cần đạt được thông qua Brainwave là cung cấp các dự đoán AI thời gian thực cho các ứng dụng như các tính năng mới nhất của Bing.

Bing nhận được các tính năng mới

Microsoft cũng cung cấp cho Bing một số tính năng mới như vậy và những tính năng quan trọng nhất cần đề cập là cung cấp nhiều câu trả lời hơn cho các câu hỏi hướng dẫn và hỗ trợ xác định các từ không được sử dụng thường xuyên khi người dùng đưa con trỏ chuột lên chúng. Những tính năng này được cung cấp bởi Brainwave.

Microsoft đang sử dụng công nghệ FPGA của Intel để tăng cường tính toán AI

FPGA là một loại khung vẽ trống để các nhà phát triển sử dụng khi họ muốn triển khai các mạch khác nhau bằng cách gửi phần mềm mới. Điều này liên quan đến một sự pha trộn mạnh mẽ của hiệu suất và khả năng lập trình.

Giờ đây, Microsoft có thể làm nhiều hơn là tạo ra các mô hình nhanh hơn với phần cứng; công ty cũng có thể xây dựng các hệ thống AI tinh vi hơn. Chẳng hạn, Turing Prototype 1 của Bing giờ phức tạp hơn và nhanh hơn gấp mười lần nhờ khả năng tính toán được thêm vào thông qua Brainwave.

Các FGA được Microsoft triển khai đi kèm với bộ xử lý tín hiệu số chuyên dụng trên tàu được tăng cường cho toán học AI phức tạp.

Lợi ích chính của đồ họa

Ưu điểm đáng kể nhất của các GPU so với GPU (đã trở thành lựa chọn ưu tiên cho tính toán AI) là chúng không yêu cầu sử dụng rộng rãi các tính toán hàng loạt.

Một cải tiến quan trọng cho phép Microsoft có được kết quả thành công như vậy thông qua các GPU là việc sử dụng các loại dữ liệu dấu phẩy động 8 và 9 bit giúp tăng hiệu suất triệt để.

Các chip FPGA của Intel cho phép Bing nhanh chóng đọc và phân tích hàng tỷ tài liệu trên toàn bộ web và cung cấp câu trả lời tốt nhất cho câu hỏi của bạn trong chưa đầy một phần của giây.

Trên thực tế, các GPU của Intel đã cho phép chúng tôi giảm độ trễ của các mô hình xuống hơn 10 lần trong khi cũng tăng kích thước mô hình lên gấp 10 lần.

Việc sử dụng các GPU để tăng tốc tính toán AI từ năm 2012

Microsoft đã bắt đầu sử dụng các GPU để tăng cường tốc độ tính toán AI hơn sáu năm trước khi nhóm Bing bắt đầu sử dụng chip. Tất cả điều này là tin tuyệt vời cho Intel là tốt. Công ty đã mua Altera, một nhà sản xuất đồ họa vào năm 2015 và thỏa thuận trị giá 16, 7 tỷ USD đã cung cấp cho Intel sức mạnh cần thiết để đáp ứng nhu cầu của Microsoft cho đến ngày hôm nay.

Chúng tôi mong muốn được thấy Brainwave có sẵn thông qua Microsoft Azure để cung cấp cho khách hàng cơ hội triển khai các mô hình của họ.