Arm tăng tốc Edge AI với thiết kế tham chiếu Ethos-U NPU và IoT

  • Post category:computer


Lưu ý rằng khi trí tuệ nhân tạo biên (AI) mở rộng quy mô, các nhà đổi mới silicon phải điều hướng độ phức tạp của hệ thống và phần mềm ngày càng tăng, trong khi các nhà phát triển phần mềm cần trải nghiệm nhất quán, hợp lý hơn và tích hợp dễ dàng với các khung và thư viện AI mới nổi, công ty thiết kế chip hàng đầu Arm đã tiết lộ- NPU thế hệ hỗ trợ AI biên, Arm Ethos-U85.

Ngoài ra, nền tảng thiết kế tham chiếu Internet vạn vật (IoT) Arm mới, Corstone-320, kết hợp IP nhúng với phần cứng ảo để tăng tốc triển khai hệ thống giọng nói, âm thanh và hình ảnh.

Arm tin rằng IoT và ngành công nghiệp nhúng đang hướng tới công ty để mở rộng cơ hội về AI tiên tiến. Nền tảng mới được cho là mang lại hiệu suất tăng gấp 4 lần và hiệu suất sử dụng năng lượng cao hơn 20% so với nền tảng tiền nhiệm trong khi mở rộng quy mô từ 128 đến 2048 đơn vị MAC (4 TOP @1GHz). Ethos-U85 được thiết kế để giải quyết các ứng dụng mà Arm nhận thấy nhu cầu về hiệu suất cao hơn như tự động hóa nhà máy và camera thương mại hoặc gia đình thông minh.

Arm cho biết Ethos-U85 mới cung cấp chuỗi công cụ nhất quán tương tự để các đối tác có thể tận dụng các khoản đầu tư hiện có để mang lại trải nghiệm “liền mạch” cho nhà phát triển. Nó cung cấp hỗ trợ cho các khung AI như TensorFlow Lite và PyTorch, đồng thời hỗ trợ Transformer Networks cũng như mạng nơ-ron tích chập (CNN) để suy luận AI.

Công ty tin rằng mạng biến áp sẽ thúc đẩy các ứng dụng mới, đặc biệt là trong các trường hợp sử dụng AI về thị giác và tổng quát cho các tác vụ như hiểu video, điền vào các phần còn thiếu của hình ảnh hoặc phân tích dữ liệu từ nhiều camera để phân loại hình ảnh và phát hiện đối tượng.

Sau khi nhận ra việc triển khai bộ vi xử lý vào các hệ thống IoT hiệu suất cao hơn cho các trường hợp sử dụng như thị giác máy công nghiệp, thiết bị đeo và robot tiêu dùng, Arm cho biết họ đã thiết kế Ethos-U85 để hoạt động với CPU Armv9 Cortex-A, nhằm tăng tốc máy. các nhiệm vụ học tập (ML) và đưa khả năng suy luận biên tiết kiệm năng lượng vào nhiều thiết bị có hiệu suất cao hơn.

Reza Kazerounian, đồng sáng lập và chủ tịch của Alif Semiconductor cho biết: “Khối lượng công việc học máy cho thế hệ ứng dụng AI biên tiếp theo đòi hỏi hiệu suất cao theo cách tiết kiệm năng lượng”. “Alif là công ty đầu tiên đưa ra thị trường giải pháp AI biên dựa trên Arm Cortex-M55 và Ethos-U55, đồng thời chúng tôi hoan nghênh công nghệ AI mới nhất của Arm, Ethos-U85, sẽ mang lại hiệu suất tính toán cần thiết cho dòng vi điều khiển Ensemble thế hệ tiếp theo của chúng tôi và bộ xử lý tổng hợp để giải quyết các trường hợp sử dụng tầm nhìn và AI biên trong tương lai.”

Cho đến nay, dòng NPU Ethos đã được hơn 20 đối tác cấp phép và những người áp dụng sớm Ethos-U85 mới bao gồm Alif và Infineon.

Steve Tateosian, phó chủ tịch cấp cao của MCU công nghiệp, IoT, kinh doanh điện toán và không dây tại Infineon, cho biết thêm: “Các trường hợp sử dụng AI biên ngày càng trở nên phức tạp và đòi hỏi các hệ thống điện toán hiệu suất cao, an toàn để mang lại cơ hội cho kỷ nguyên AI”. “Chúng tôi mong muốn xây dựng mối quan hệ hợp tác lâu dài của Infineon với Arm và hỗ trợ các hệ thống tinh vi này với Arm Ethos-U85 và sự hỗ trợ mạng biến áp mà nó cung cấp cho việc triển khai AI biên.”

Nền tảng thiết kế tham chiếu Corstone-320 IoT được cho là có thể mang lại hiệu suất cần thiết để mở rộng nhiều ứng dụng AI biên cho giọng nói, âm thanh và hình ảnh, chẳng hạn như phân loại hình ảnh theo thời gian thực và nhận dạng đối tượng hoặc cho phép trợ lý giọng nói tự nhiên. dịch ngôn ngữ trên loa thông minh. Nền tảng này bao gồm phần mềm, công cụ và hỗ trợ bao gồm cả phần cứng ảo Arm.

Công ty tự tin rằng sự kết hợp giữa phần cứng và phần mềm như vậy sẽ đẩy nhanh tiến độ sản phẩm bằng cách cho phép bắt đầu phát triển phần mềm trước khi có silicon, nhanh chóng cải thiện thời gian đưa ra thị trường cho các thiết bị AI biên ngày càng phức tạp.

Trả lời