-----BEGIN CERTIFICATE-----и
-----END CERTIFICATE-----
cert.pem после сертификата сервера.
tls* в файле smb.conf (подробнее см. man smb.conf).
tls* задаются в разделе [global] файла smb.conf. После внесения изменений в файл smb.conf необходимо перезапустить Samba.