Để giải quyết câu hỏi này, ta cần vẽ hình như sau:
Gọi $AB$ là dây của đường tròn tâm $O$ có độ dài bằng bán kính $R$. Khoảng cách từ tâm $O$ đến $AB$ là $h$.
Ta có thể thấy được rằng tam giác $OAB$ là tam giác vuông tại $A$, do đó ta có:
$\sin \angle AOB = \frac{AB}{2R} = \frac{h}{R}$
Vì $\angle AOB = 2\angle AMB$, nên ta có:
$\sin 2\angle AMB = \frac{h}{R}$
Tuy nhiên, ta không biết được giá trị của góc $\angle AMB$, do đó ta cần tìm một cách khác để liên kết giữa $h$ và $R$.
Ta có thể vẽ thêm đường cao $OH$ của tam giác $AMB$ như sau:
Gọi $H$ là hình chiếu của $O$ lên $AB$. Ta có:
$OH = AM \sin \angle AMB = R \sin \angle AMB$
Do đó:
$h = OH - OA = R \sin \angle AMB - R = R(\sin \angle AMB - 1)$
Kết hợp với công thức trên, ta có:
$\sin 2\angle AMB = \frac{h}{R} = \sin \angle AMB - 1$
Đặt $x = \angle AMB$, ta có:
$\sin 2x = \sin x - 1$
Chuyển vế và sử dụng công thức $\sin 2x = 2\sin x \cos x$, ta được:
$2\sin x \cos x - \sin x + 1 = 0$
Giải phương trình này bằng cách đặt $t = \sin x$:
$2t\sqrt{1-t^2} - t + 1 = 0$
$2t\sqrt{1-t^2} = t - 1$
$(2t\sqrt{1-t^2})^2 = (t - 1)^2$
$4t^2(1-t^2) = t^2 - 2t + 1$
$4t^2 - 4t^4 = t^2 - 2t + 1$
$4t^4 + t^2 - 2t + 1 = 0$
$(2t^2 - t + 1)(2t^2 + t - 1) = 0$
Phương trình này có hai nghiệm là:
$t_1 = \frac{1 - \sqrt{3}}{4}$
$t_2 = \frac{1 + \sqrt{3}}{4}$
Vì $-1 \leq \sin x \leq 1$, nên ta chỉ có thể chọn $t_2$ làm giá trị của $\sin x$. Do đó:
$\sin x = \frac{1 + \sqrt{3}}{4}$
Cuối cùng, ta tính được khoảng cách từ tâm $O$ đến $AB$ như sau:
$h = R(\sin x - 1) = R\left(\frac{1 + \sqrt{3}}{4} - 1\right) = \frac{R\sqrt{3}}{2}$
Vậy đáp án là $\boxed{\textbf{(C) }\frac{R\sqrt{3}}{2}}$.