以下に該当しないかご確認ください。

ファイルやフォルダの名前に日本語などの全角文字や半角スペースを使っている

FTPソフトの文字コード設定の変更によって削除が可能になる場合があります。
また、FileZillaのソフトを利用する事で削除できる場合があります。

削除できないファイルが設置されているフォルダのパーミッションに誤りがある

フォルダのパーミッションを「705」へ変更したうえで、フォルダ、ファイルの削除が可能かご確認ください。

SSHでの削除を試す。

FTPソフトで削除ができない場合、SSHでの削除が可能かどうかをお試しください。
SSH接続にはTeratermなどのソフトをご利用ください。