以下のリンクに全てがあります。GrailsというよりSpringBootですね。
Appendix A. Common application properties

例えば、組み込みサーバで起動したときのセッションのタイムアウトを変更するなら、server.session.timeoutという項目がソレに該当します。

YAML(appliation.yml)に書く場合は、

---
server:
    session:
        timeout: 3600
        persistent: true

のようになります。

注意しないといけないのが、Grails3.3.8はSpringBoot1.5.15.RELEASE上で構築されています。
最新のSpringBootだと、session周りのキー名が微妙に変わっているので、上記のリンクのようにちゃんと1.5.15のSpringBootのドキュメントを読む必要があります。