Để giải bài toán này, ta có thể sử dụng công thức khai triển nhị thức Newton:
(a + b)ⁿ = C(n,0)aⁿb⁰ + C(n,1)aⁿ⁻¹b¹ + C(n,2)aⁿ⁻²b² + ... + C(n,n-1)a¹bⁿ⁻¹ + C(n,n)a⁰bⁿ
Trong đó, C(n,k) là tổ hợp chập k của n.
Áp dụng công thức này vào bài toán, ta có:
(x - y - z)⁵ = C(5,0)x⁵(-y-z)⁰ + C(5,1)x⁴(-y-z)¹ + C(5,2)x³(-y-z)² + C(5,3)x²(-y-z)³ + C(5,4)x¹(-y-z)⁴ + C(5,5)x⁰(-y-z)⁵
(x - y - z)³ = C(3,0)x³(-y-z)⁰ + C(3,1)x²(-y-z)¹ + C(3,2)x¹(-y-z)² + C(3,3)x⁰(-y-z)³
Vậy:
(x - y - z)⁵ ÷ (x - y - z)³ = [C(5,0)x⁵(-y-z)⁰ + C(5,1)x⁴(-y-z)¹ + C(5,2)x³(-y-z)² + C(5,3)x²(-y-z)³ + C(5,4)x¹(-y-z)⁴ + C(5,5)x⁰(-y-z)⁵] ÷ [C(3,0)x³(-y-z)⁰ + C(3,1)x²(-y-z)¹ + C(3,2)x¹(-y-z)² + C(3,3)x⁰(-y-z)³]
= [x⁵ - 5x⁴(y+z) + 10x³(y+z)² - 10x²(y+z)³ + 5x(y+z)⁴ - (y+z)⁵] ÷ [x³ - 3x²(y+z) + 3x(y+z)² - (y+z)³]
Vậy kết quả là: [x⁵ - 5x⁴(y+z) + 10x³(y+z)² - 10x²(y+z)³ + 5x(y+z)⁴ - (y+z)⁵] ÷ [x³ - 3x²(y+z) + 3x(y+z)² - (y+z)³]