Hab nochmal genauer geschaut:
Googlemail erfordert SSL-Verschlüsselung der SMTP-Verbindung auf Port 465 oder 587.
Einstellungen deshalb:
SMTP Mail Server: ssl://smtp.googlemail.com:465
Use PHP Sockets for SMTP: Yes
Use SMTP-Auth: Yes
Port kann man in WBB eigentlich gar nicht per ACP setzen (Woltlab, ukannix

).
Editiere deshalb die
acp/lib/class_smtp.php und setze dort (ca. Z.58) unter
PHP-Code:
$this->smtp_server['host'] = $smtp;
dieses
PHP-Code:
if (preg_match('/(.*):(\d+)$/', $this->smtp_server['host'], $matches))
{
$this->smtp_server['host'] = $matches[1];
$this->smtp_server['port'] = $matches[2];
}
Username, Passwort, From-Adresse wie Deine GMail-/Googlemail-Daten.
Voraussetzung für das Funktionieren ist allerdings, dass Dein Webspace PHP mit OpenSSL-Unterstützung hat. Ohne das geht es nicht, Du müsstest dann einen anderen Mailprovider nehmen.