Nghiên cứu cải tiến thuật toán của mạng Nơron

Từ giữa thế kỷ XX, nghiên cứu về các thuật toán tối ưu hóa, đặc biệt là sự phát triển của kỹ thuật số máy tính, đang ngày càng trở thành một lĩnh vực quan trọng trong toán học. Ngày nay, những công cụ toán học này được áp dụng để huấn luyện các mạng nơron. Trong quá trình tìm kiếm một thuật toán tối ưu để giảm thiểu thời gian hội tụ hoặc tránh những cực tiểu yếu, cực tiểu địa phương, đều bắt đầu từ việc nghiên cứu các đặc tính của mặt lỗi (mặt sai số). Đối với các bề mặt lỗi phức tạp như mặt lỗi có bề mặt hở, đường nét của nó được kéo dài, uốn cong hình thành trục và hở hàm ếch, các thuật toán cũ không thể giải quyết được. Bài báo này đề xuất một thuật toán để cải thiện sự hội tụ và khả năng để thoát ra từ các khu vực không mong muốn trên các bề mặt lỗi đặc biệt.