この場合、DBをMysql5.7からMariaDBに設定することに対しては問題はないでしょうか。

問題ありません。
ただ、DBMSの設定変更を行っていた場合に同様の設定ができるかに
関しては注意が必要です。

あと、特に推奨されるDBMSやDBMSのバージョンはありません。

よりパフォーマンスを上げるとか、セキュリティの向上を図るため
に、より新しいバージョンのDBMSを使用するという考え方もあるの
で、それを優先するのであれば、MySQL 8.0を選択するという案も
あるでしょう。
ただし、MySQL 8.0にするとなると、少し運用や設定が異なる部分
があるので、そういった変化にも対応できるような運用体制が必要
になります。
RHELなどの場合は、サポートの有無にも注意が必要でしょう。

人によっては、PostgreSQLの方が慣れているから、メンテナンスも
パフォーマンスチューニングもやりやすいという方もいらっしゃる
でしょう。

つまり、単純に性能と機能だけではなく、今後の運用も考慮して選
択されることをお勧めします。

一応補足ですが、Zabbix 4.0以降であれば問題ありませんが、それ
以前のバージョンのZabbixでは、MySQL 8.0に対応していないので
ご注意ください。