Về lý do thứ nhất kể trên, liên quan đến sự hợp lý về mặt sinh học của thuật toán back-propagation, vẫn còn nhiều câu hỏi nghiêm túc đợc đặt ra mà cha có lời giải đáp thoả đáng. Tuy nhiên những sự thiếu hụt về thần kinh sinh học không làm giảm đi giá trị về mặt kỹ thuật của thuật tián back-propagation với t cách là một công cụ xử lý thông tin, và đợc chứng minh bằng những ứng dụng thành công của nó trong nhiều lĩnh vực khác nhau.
Vấn đề hiệu quả tính toán
Độ phức tạp về tính toán của một thuật toán thờng đợc xác định bằng số l- ợng các phép cộng, phép nhân, và sự lu trữ liên quan tới việc cài đặt nó. Một thuật toán học đợc gọi là hiệu quả trong tính toán khi độ phức tạp tính toán của nó là
hàm đa thức của số lợng các tham số có thể điều chỉnh đợc. Trên cơ sở đó, chúng ta có thể nói rằng thuật toán back-propagation là hiệu quả trong tính toán. Đặc biệt, với việc sử dụng nó để tích luỹ một mạng tiến đa mức bao gồm W trọng số synapse (kể cả các hệ số hiệu chỉnh), độ phức tạp của nó là một hàm tuyến tính của W. Điều này có thể dễ dàng đợc chứng minh bằng cách xem xét các tính toán liên quan đến việc thực hiện các giai đoạn tiến và lùi của thuật toán.
Vấn đề hội tụ
Thuật toán back-propagation sử dụng một “đánh giá tức thời“ cho gradient của bề mặt lỗi trong không gian trọng số. Nh vậy thuật toán là ngẫu nhiên về bản chất; nghĩa là nó có xu hớng đi theo những đờng zigzag xung quanh hớng đi thực tới cực tiểu của bề mặt lỗi. Nh vậy là nó có xu hớng hội tụ chậm; chúng ta có thể nêu ra hai nguyên nhân cơ bản sau: