Чтобы уйти от прямоугольника, генерируй Центральный тайл (без краев) и Тайлы переходов. В Godot инструмент TileSet Terrain сам соединит их в любую кривую форму.