#include <bits/stdc++.h>
#define ll long long
using namespace std;
ll ax, ay, bx, by, cx, cy;
float MIN = 1e18;
int main()
{
    ios::sync_with_stdio(0);
    cin.tie(0);
    cout.tie(0);
    cin >> ax >> ay;
    cin >> bx >> by;
    cin >> cx >> cy;
    if (ax * bx != 0 && ax * bx < MIN && ax != bx)
    {
        MIN = ax * bx;
    }
    if (ax * cx != 0 && ax * cx < MIN && ax != cx)
    {
        MIN = ax * cx;
    }
    if (bx * cx != 0 && bx * cx < MIN && bx != cx)
    {
        MIN = bx * cx;
    }
    if (ay * by != 0 && ay * by < MIN && ay != by)
    {
        MIN = ay * by;
    }
    if (ay * cy != 0 && ay * cy < MIN && ay != cy)
    {
        MIN = ay * cy;
    }
    if (by * cy != 0 && by * cy < MIN && by != cy)
    {
        MIN = by * cy;
    }
    cout << fixed << setprecision(3) << MIN;
    return 0;
}

Giải thích:

Hình chữ nhật có các tọa độ điểm (x1,y1), (x1,y2), (x2,y2), (x2,y1)  ( với x1 < x2, y1 < y2) cần có điều kiện gì để chứa cả 3 điểm đã cho?

Để hình chữ nhật chứa được cả 3 điểm thì ta cần có x1 <= xa,xb,xc <= x2; y1 <= ya,yb,yc <= y2

Vậy làm thế nào để tối ưu được diện tích hình chữ nhật này?

Ta cần x2 - x1 và y2 - y1 nhỏ nhất. Để có điều đó thì ta cần x1,y1 lớn nhất; x2,y2 nhỏ nhất
Mà x1 <= xa,xb,xc <= x2; y1 <= ya,yb,yc <= y2 => ...

Code:

// Code chua test

#include <bits/stdc++.h>

using namespace std;

int main(){

    long double xa,xb,xc,ya,yb,yc,w,h;

    cin >> xa >> ya >> xb >> yb >> xc >> yc;

    w = max(xa,max(xb,xc)) - min(xa,min(xb,xc));

    h = max(ya,max(yb,yc)) - min(ya,min(yb,yc));

    cout << fixed << setprecision(2) << w*h;

    return 0;

}