Eklenti kullanarakta şöyle yapabilirsiniz;

https://wordpress.org/plugins/redirection/ bu eklenti işinizi görecektir. Source Url kısmına;

/(.*)/amp

Yazın. Target Url kısmına ise;

http://www.siteadi.com/$1 (kendinize göre düzenleyin)

Yazın. Sağ tarafta bulunan regex i seçin. Ardından Açılır pencereden Redirections ı seçip ekleyin.