Resolução:
Como temos 7 pontos que nunca são 3 a 3 colineares, para cada 3 pontos que pegarmos temos um triângulo diferente. Nesse exercício, acho que fica melhor se calcularmos o total de triângulos e daí tirarmos aqueles que têm um lado AB ou um lado BC.
Para sabermos todos os triângulos possíveis, temos que saber quantos subconjuntos de 3 elementos podemos formar do conjunto de 7 elementos. Isso é calculado através da combinação de 7 elementos tomados 3 a 3:
C(7, 3) = 7!/3!.4!
C(7, 3) = 7.6.5.4!/3!.4!
C(7, 3) = 7.6.5/3.2
C(7, 3) = 7.5
C(7, 3) = 35 triângulos
Agora desse total temos que tirar os que têm lado AB ou BC. Primeiro vamos calcular quantos têm lado AB. Para termos um triângulo com lado AB, temos que pegar os dois pontos A e B e mais um ponto qualquer dos outros 5 que sobraram. Então temos ao todo 5 triângulos com o lado AB (ABC, ABD, ABE, ABF, ABG).
Da mesma maneira, temos mais 5 triângulos com o lado BC, pois pegamos os pontos B e C e mais um dos outros 5 pontos (BCA, BCD, BCE, BCF, BCG).
Agora repare que nos dois casos aparecem o triângulo ABC, pois ele tem tanto um lado AB como um lado BC. Então, na verdade, o total de triângulos que não nos interessa são 9, os 5 com lado AB mais os 5 com lado BC menos um, pois contamos duas vezes o ABC.
Então o número de triângulo que queremos, que não têm um lado AB nem BC é:
= 35 – 9
= 26