Men-deploy aplikasi

Untuk men-deploy aplikasi di Vertex AI, buat instance baru ReasoningEngine dan teruskan class aplikasi sebagai parameter. Jika Anda ingin memperkenalkan dependensi paket untuk aplikasi Anda, gunakan parameter berikut:

  • requirements: Daftar dependensi paket PyPI eksternal. Setiap baris harus berupa string tunggal. Untuk mempelajari lebih lanjut, lihat Format File Persyaratan.
  • extra_packages: Daftar dependensi paket internal. Dependensi paket ini adalah file atau direktori lokal yang sesuai dengan paket Python lokal yang diperlukan oleh aplikasi.

Kode berikut menunjukkan cara men-deploy aplikasi:

DISPLAY_NAME = "Demo Langchain Application"

remote_app = reasoning_engines.ReasoningEngine.create(
    reasoning_engines.LangchainAgent(
        model=model,
        tools=[get_exchange_rate],
        model_kwargs=model_kwargs,
    ),
    requirements=[
        "google-cloud-aiplatform",
        "langchain",
        "langchain-core",
        "langchain-google-vertexai",
        "requests==2.*",
    ],
    display_name=DISPLAY_NAME,
)
remote_app

Saat Anda men-deploy aplikasi ke Reasoning Engine, teruskan objek baru, bukan menggunakan kembali objek yang ada. Dengan cara ini, Anda menghindari pembuatan objek yang telah menginisialisasi data yang tidak dapat dipilih, seperti koneksi database dan layanan dalam metode .set_up-nya.

Deployment aplikasi memerlukan waktu beberapa menit untuk dijalankan. Cloud SQL mem-build container dan mengaktifkan server HTTP di backend. Latensi deployment bergantung pada total waktu yang diperlukan untuk menginstal paket yang diperlukan.

Setelah di-deploy, remote_app sesuai dengan instance CLASS_NAME yang berjalan di Vertex AI dan dapat dikueri atau dihapus. Ini terpisah dari instance lokal CLASS_NAME.

Setiap aplikasi yang di-deploy memiliki ID unik. Jalankan perintah berikut untuk mendapatkan ID resource_name bagi aplikasi Anda:

remote_app.resource_name

resource_name memiliki format berikut: "projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID".

Langkah selanjutnya