კასპში ვახტან გორგასალის სახელობის  ტაძრის მშენებლობა 2011 წლის სექტემბერში  დაიწყო. ტაძარი ფართით ეპარქიაში არსებულ ტაძრებს შორის ყველაზე დიდია. მისი შიდა ფართი 350 კვადრატულ მეტრს შეადგენს. ორ ნავიანი ბაზილიკური ტიპის ტაძარის მშენებლობა საქართველოს კათოლიკოს-პატრიარქის უწმინდესისა და უნეტერასესის ილია მეორის ლოცვა კურთხევით დაიწყო.

  2012 წლის 26 ნოემბერს ვახტანგ გორგასალის სახელობის მშენებარე ტაძარზე ჯვარი აღიმართა.  „აღიმართა ჯვარი, როგორც სიმბოლო სიკეთის ბოროტებაზე გამარჯვებისა“.

  ტაძრის კურთხევა 13 დეკემბერს  წმინდა ვახტანგ გორგასალისა და ანდრია პირველწოდებულის ხსენების  დღეს მოხდება.